Wyścig o rozwój sztucznej inteligencji przyspiesza za szybko? Szef Amodei ostrzega
Sztuczna inteligencja może stać się jedną z najbardziej przełomowych technologii w historii, jednak wraz z rosnącymi możliwościami zaawansowanych modeli AI narastają także obawy dotyczące bezpieczeństwa. O potrzebie spowolnienia wyścigu technologicznego mówią już nie tylko naukowcy i eksperci spoza branży, lecz także osoby pracujące przy tworzeniu najnowocześniejszych systemów AI.
Z tego artykułu dowiesz się:
- Jakie zagrożenia wiążą się z szybkim rozwojem AI.
- Dlaczego Dario Amodei apeluje o większy nadzór nad sztuczną inteligencją.
- Co skłoniło Jacoba Coxona do odejścia z Anthropica.
- Które ryzyka wskazują na konieczność międzynarodowej współpracy.
Apel o spowolnienie wyścigu AI
Jednym z najgłośniejszych głosów w debacie o rozwoju sztucznej inteligencji jest Dario Amodei, współzałożyciel i szef firmy Anthropic, twórcy modelu Claude. W opublikowanym eseju „We Must Pace the Frontier” przekonuje, że tempo rozwoju AI staje się coraz trudniejsze do kontrolowania, a bezpieczeństwo nie nadąża za postępem technologicznym. Amodei ostrzega, że w przyszłości może dojść do sytuacji, w której sztuczna inteligencja zacznie coraz skuteczniej pomagać w tworzeniu kolejnych, bardziej zaawansowanych modeli.
Taki mechanizm mógłby znacząco przyspieszyć rozwój sztucznej inteligencji i utrudnić przewidywanie skutków działania nowych systemów. Dlatego szef Anthropica postuluje większy nadzór nad badaniami, niezależne audyty bezpieczeństwa oraz współpracę międzynarodową w zakresie regulacji. Dyskusję o zagrożeniach związanych z AI dodatkowo podgrzała decyzja brytyjskiego matematyka Jacoba Coxona, który ogłosił odejście z firmy Anthropic.
Były pracownik Anthropica alarmuje
Badacz, wcześniej związany również z OpenAI, zarzucił obu przedsiębiorstwom nieodpowiedzialne dążenie do stworzenia superinteligencji. Jak napisał na platformie X, firmy „pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem”. Coxon twierdzi, że początkowo przeszedł do Anthropica właśnie dlatego, że firma była postrzegana jako bardziej ostrożna w kwestiach bezpieczeństwa. Ostatecznie uznał jednak, że również ona uczestniczy w wyścigu o stworzenie „nadludzkiej” inteligencji. Autor wpisu dodał, że „ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady”
W jego ocenie twórcy najbardziej zaawansowanych systemów AI zdają sobie sprawę z potencjalnych zagrożeń, ale jednocześnie obawiają się pozostania w tyle za konkurencją. Brytyjczyk wskazał również na niedawne incydenty związane z autonomicznymi agentami AI oraz pesymistycznie ocenił szanse na wyhamowanie rywalizacji technologicznej między Stanami Zjednoczonymi a Chinami. Coraz częściej podobne ostrzeżenia pojawiają się także ze strony innych ekspertów pracujących nad sztuczną inteligencją.
Źródło: Radio ZET/PAP/darioamodei.com
Byłeś świadkiem czegoś niespodziewanego? Masz temat, którym powinniśmy się zająć?
Zgłoś sprawę przez Czerwony telefon Radia ZET
