Ostrzeżenie NASK po ataku w Krakowie. Chodzi o zdjęcia „wyostrzone" przez AI
Po zamachu w Krakowie w sieci zaroiło się od zdjęć, które mają być „wyostrzonymi przez AI" kadrami przedstawiającymi momenty ze zdarzenia. NASK ostrzega: sztuczna inteligencja zamiast poprawiać jakość zdjęć może wymyślać szczegóły, których na nich nie było.
Z tego artykułu dowiesz się:
- Jak działa AI w kontekście wyostrzania zdjęć?
- Dlaczego generowane obrazy mogą być niezgodne z rzeczywistością?
- Jakie kroki podjąć, aby rozpoznać przerobione zdjęcie?
Seria zdjęć dezinformujących ws. ataku w Krakowie
Internauci masowo zaczęli udostępniać zdjęcia i kadry z nagrań „wyostrzone” przez AI, a przedstawiające rzekomo chwilę zamachu w Krakowie. Jednym z przykładów są krążące w internecie zdjęcia koszulki sprawcy ataku, na których po „wyostrzeniu” pojawiały się różne nadruki. Na jednej z przeróbek widniał duży biało-zielony wzór geometryczny, a na innej rozbudowany żółto-zielony nadruk. Poszczególne wersje różniły się również elementami otoczenia.
NASK ostrzega przed tym zjawiskiem w analizie „Wyostrzone nie znaczy prawdziwe”. Sztuczna inteligencja zamiast odtwarzać szczegóły, może je wymyślać. Jak wyjaśnił NASK, z materiałów o niskiej rozdzielczości, silnej kompresji czy rozmytych fragmentach nie da się odzyskać szczegółów, których nie zarejestrowano na oryginalnym obrazie.
„Generatywne systemy AI mogą jedynie oszacować, jakie szczegóły mogły znajdować się w danym miejscu, uzupełniając obraz elementami wyglądającymi wiarygodnie, takimi jak litery, kontury, tekstury czy fragmenty tła” - podkreślono w analizie. W przypadku strzelaniny w Krakowie problem nie ogranicza się do kwestii estetycznych, ponieważ wprowadzone na zdjęciu zmiany mogą stać się podstawą kolejnych spekulacji.
Sztuczna inteligencja zamiast wyostrzać, wymyślała
Kolejnym problemem dotyczącym „wyostrzania" zdjęć przez sztuczną inteligencję jest fakt, że końcowy efekt może zależeć od sugestii użytkownika. Nie bez znaczenia jest również to, jakie dane wykorzystano podczas trenowania danego modelu AI. Jako przykład NASK wskazał szeroki rzep na rękawie, pojawiający się na wielu przerobionych zdjęciach sprawcy strzelaniny. Mimo, iż element ten nie był widoczny w oryginale, model mógł go dodać, ponieważ podczas treningu analizował zdjęcia kurtek wojskowych, na których często występują podobne rzepy.
Podobne rozbieżności dotyczyły naszywek i symboli na mundurze sprawcy. Choć na oryginalnych zdjęciach widoczne były rozmazane emblematy, nie można było jednoznacznie ustalić, co przedstawiały. Jak zauważył NASK, jedna z grafik, na której AI „wyostrzyła” symbole na odzieży napastnika, uzyskała ponad milion wyświetleń w mediach społecznościowych. Wygenerowane naszywki nie odpowiadały jednak rzeczywistym, różniąc się m.in. kształtem. Za pomocą AI przerabiano również zdjęcia broni napastnika.
Jak rozpoznać zdjęcie przerobione przez AI?
NASK zaznacza w analizie, że nie każda przeróbka zdjęcia za pomocą AI powstaje w złej wierze, a część internautów może kierować się ciekawością lub chęcią lepszego zrozumienia tego, co przedstawia materiał. Niektóre osoby mogą jednak celowo generować obrazy wspierające określoną narrację.
NASK odpowiada, jakie cztery kroki można podjąć, aby rozpoznać takie przeróbki. Pierwszy to próba identyfikacji źródła materiału poprzez szukanie najwcześniejszej dostępnej publikacji, która zawiera zdjęcie lub nagrania.
Kluczowe jest również porównanie dostępnych wersji materiałów. Chodzi o to, czy w kolejnych publikacjach pojawiają się nowe napisy, symbole, twarze, elementy tła lub zmiany oświetlenia. NASK radzi, aby szczególną ostrożność zachować w przypadku szczegółów, które w oryginalnym materiale były niewidoczne lub nieczytelne.
Jako kolejne kroki wymieniono zdolność oddzielania interpretacji od obserwacji, a także niepowielanie publikacji zawierających już przerobione zdjęcia. „W sytuacjach kryzysowych ostrożność i rzetelna weryfikacja informacji są często ważniejsze niż szybkość ich publikowania” - podsumował NASK.
Źródło: Radio ZET/PAP
