„Potrzebujemy Czwartego Prawa Robotyki”. Boty nie mogą się podszywać
– Za chwilę będziemy mieli sytuację, w której dzwoni do nas bot, który wygląda i mówi jak nasz wnuczek – ostrzega prof. Dariusz Jemielniak z Akademii Leona Koźmińskiego, Campus AI. – Boty muszą się identyfikować – podkreśla ekspert.
Pan Profesor postuluje wprowadzenie „Czwartego Prawa Robotyki”. Jakie są pierwsze trzy?
Prof. Dariusz Jemielniak: Prawa robotyki powstały 80 lat temu. W 1942 roku Isaac Asimov w opowiadaniu „Runaround”, a potem w książce, która na polski została przetłumaczona jako „Ja, robot”, zaproponował Trzy Prawa Robotyki, które koncentrowały się na robotyce w rozumieniu hardware’u – dotyczyły robotów w sensie maszyn. Pierwsze Prawo Robotyki mówiło, że robot nie może skrzywdzić człowieka – czy to przez działanie, czy przez zaniechanie nie może doprowadzić do jego krzywdy.
Drugie Prawo Robotyki: robot musi być posłuszny rozkazom człowieka, o ile nie stoi to w sprzeczności z pierwszym prawem. I Trzecie Prawo Robotyki: robot musi chronić swoje istnienie, o ile nie stoi to w sprzeczności z pierwszym lub drugim prawem. To oczywiście rozsądne postulaty, natomiast pomijają to, że obecnie w dużym stopniu żyjemy w świecie wirtualnym. Mamy do czynienia z robotami wirtualnymi – chatboty, AI, interfejsy interaktywne – które rzadko mogą nas skrzywdzić w sposób fizyczny, natomiast mogą nam wyrządzić różnego rodzaju szkody, chociażby przez dezinformację. Nie kojarzy się to w sposób bezpośredni z krzywdą, ale może prowadzić do pewnych zaburzeń.
Do jakich zaburzeń mogą prowadzić roboty?
Historia, która wydarzyła się niedawno: nastolatek zapałał tak silnym uczuciem do chatbota, że popełnił samobójstwo. To duże ryzyko. Zaproponowałem w czasopiśmie „AI Spectrum” wprowadzenie Czwartego Prawa Robotyki: robot nie może wprowadzać człowieka w błąd, podszywając się pod innego człowieka. Prosty postulat, zgodny zresztą z tym co mówi AI Act – chatboty i sztuczna inteligencja powinny się identyfikować, gdy się z nami komunikują.
Jakie są możliwości prowadzenia Czwartego Prawa Robotyki w życie?
Są to kwestie regulacji prawnych na poziomie unijnym. Problem jest oczywiście globalny, ale Chiny, Indie czy Stany Zjednoczone mają dużo bardziej liberalne podejście do technologii. Założenie jest podobne do tego, jakie funkcjonuje na rynku farmaceutycznym w Stanach: można sprzedawać bardzo dużo, a jeśli wyrządzi się krzywdę, to płaci się odszkodowanie. W Europie mamy raczej odwrotne podejście: należy dopuścić wyłącznie te rzeczy, które są bezpieczne. I to podejście w przypadku AI jest bardzo potrzebne. Za chwilę będziemy mieli do czynienia z poszerzoną rzeczywistością, gdy dzwoni do nas bot, który wygląda i mówi jak nasz wnuczek. To już są bardzo złożone sytuacje. Potrzebna jest bardzo precyzyjna regulacja, żeby boty się identyfikowały, wymagały specjalnego znacznika.
To realne?
Wiele osób mówi: wprowadzimy zakaz, a i tak nikt go nie będzie przestrzegał. To nie do końca tak, bo jeśli spojrzymy na zakazy – np. rozpowszechniania pornografii dziecięcej czy fałszerstw pieniędzy – to owszem, to się zdarza, natomiast silny zakaz i wysoka sankcja powodują, że jest to radykalnie zredukowane. Dwa lata temu mieliśmy wysyp fałszywych dowodów osobistych. Problem został radykalnie zredukowany, bo wprowadziliśmy wysoką sankcję.
Kto miałby ponieść tę sankcję? Odpowiedzialność w internecie jest rozmyta. Chatboty piszą prace naukowe, same po sobie sprawdzają, kolejny wprowadza poprawki… Ten łańcuch robi się naprawdę długi.
Ma pani rację, ale to znów jak z pornografią dziecięcą. Chatboty są zaangażowane w tworzenie materiałów wideo, ale narzędzia software mają bezpieczniki. Nie pozwalają na tworzenie pornografii dziecięcej. Chodzi o takie bezpieczniki. Oczywiście da się stworzyć technologię całkowicie podziemną, ale fakt, że jest to działalność przestępcza, sprawia, że problem jest dużo mniejszy.
Jakie jest Pana Profesora zdaniem większe zagrożenie: wykorzystanie AI do celów militarnych czy całkowita autonomia AI?
Te dwa zagrożenia nie są rozłączne. Mówi się, że na końcu decyzję zawsze podejmuje człowiek, ale to kompletnie iluzoryczne. Chociażby Izrael stosuje już systemy, w których na podstawie rachunku prawdopodobieństwa i sztucznej inteligencji typuje się, kto jest potencjalnym terrorystą, żeby wykonać egzekucję. Operator dostaje na przykład taką informację: na 97% terrorysta, masz trzy sekundy, żeby podjąć decyzję. Czy to jest faktycznie decyzja człowieka? Mam duże wątpliwości. Natomiast jeśli pyta pani, czy sztuczna inteligencja przejmie władzę nad światem, to jest to perspektywa dosyć odległa, choć jak najbardziej realna za naszego życia. Ale na razie nie jesteśmy w stanie dokonywać sensownych predykcji, czy sztuczna inteligencja w ogóle dojdzie do etapu autonomicznego podejmowania decyzji z szerokiego zakresu. Proszę pamiętać, że my też się rozwijamy, wprowadzamy różnego rodzaju bezpieczniki. Choć oczywiście te bezpieczniki mogą okazać się niewiele warte. Ale to wszystko science fiction.
Realne zagrożenie to jest, chociażby to, że systemu autonomiczne podejmują szerokie spektrum decyzji w zglobalizowanym świecie. Jeśli coś pójdzie źle, to w dużej skali. Bardziej obawiałbym się wpływu sztucznej inteligencji w cywilnym świecie: dezinformacji, tego co się dzieje w Rumunii, Niemczech czy Stanach Zjednoczonych. Wygrana Donalda Trumpa także nastąpiła pod wpływem mediów społecznościowych. Opowieści o tym, że sztuczna inteligencja przejmie władzę nad światem, to baśń o żelaznym wilku, która zaciemnia nam obraz, że dezinformacja już teraz zbiera ponure żniwo.
Źródło: Radio ZET
Byłeś świadkiem czegoś niespodziewanego? Masz temat, którym powinniśmy się zająć?
Zgłoś sprawę przez Czerwony telefon Radia ZET
