Giganci AI ostrzegają przed superinteligencją. Musk i Altman poparli apel
Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) o spowolnienie rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi.
Z tego artykułu dowiesz się:
- Jakie powody stoją za apelem Amodei o spowolnienie rozwoju AI.
- Co obejmuje trzyetapowy plan zaproponowany przez Amodei dla regulacji AI.
- Dlaczego Jacob Coxon odszedł z Anthropica i jakie miał zarzuty.
- Jakie zagrożenia związane z AI przedstawiono w raporcie Anthropica.
Amodei chce zwolnić tempo rozwoju AI. Musk i Altman popierają jego apel
„Dario ma rację” – napisał Musk w serwisie X, a Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.
Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.
Anthropic proponuje trzyetapowy plan i niezależne kontrole modeli
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, zapewnienie dłuższego czasu na „zarządzanie związanym z tym ryzykiem”. Amodei zapowiedział też, że Anthropic zatrudni na stałe zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
27-letni matematyk odszedł z Anthropica. Oskarża firmy o „igranie z życiem ludzi”
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań dotyczących rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw. Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI. Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
Źródło: Radio ZET/PAP
Byłeś świadkiem czegoś niespodziewanego? Masz temat, którym powinniśmy się zająć?
Zgłoś sprawę przez Czerwony telefon Radia ZET
