OPSEC4kids

Czy AI potrafi zdjąć emoji ze zdjęcia? Nie. Ale potrafi przekonać Cię, że właśnie to zrobiła.

W ostatnich dniach zrobiło się naprawdę głośno o rzekomej możliwości usuwania emoji, naklejek i innych zasłonięć twarzy ze zdjęć przy pomocy sztucznej inteligencji.

Internet – jak zwykle – podzielił się na dwa obozy.

Jedni twierdzą, że to niemożliwe.

Drudzy pokazują kolejne przykłady wygenerowanych obrazów i przekonują, że „AI właśnie usunęła naklejkę z twarzy”.

Prawda w tej sytuacji jest prosta, jednoznaczna i przy okazji całkiem interesująca.

Nie. AI nie potrafi zdjąć naklejki z twarzy.

Jeżeli do zdjęcia dodamy emoji i zapiszemy je jako nowy obraz, pizza, serduszko czy inna naklejka zakrywająca twarz sprawią, że oryginalne piksele zostaną bezpowrotnie utracone.

Nie są ukryte.

Nie są zaszyfrowane.

Nie znajdują się „pod spodem”.

One po prostu już nie istnieją.

Jeżeli zdjęcie zostało spłaszczone do jednego pliku JPG lub PNG, to w miejscu naklejki znajdują się wyłącznie piksele tej naklejki.

Nic więcej.

Jak mówi stare powiedzenie:

Z pustego i Salomon nie naleje.

A w tym przypadku… zostaje już tylko pizza. 🍕

Dlaczego więc internet jest pełen przykładów?

Bo AI bardzo dobrze radzi sobie z… zgadywaniem.

Model analizuje wszystko, co nadal widać na zdjęciu:

kształt głowy,
fryzurę,
uszy,
szyję,
oświetlenie,
pozę,
wiek,
płeć,
oraz miliony podobnych twarzy, które „widział” podczas treningu.

Na tej podstawie AI tworzy bardzo wiarygodnie wyglądającą nową twarz.

Nie odzyskuje starej.

Nie odsłania tej, która była pod naklejką.

Tworzy zupełnie nową.

To ogromna różnica.

A skąd więc tyle osób twierdzi, że AI potrafi zdjąć naklejkę?

Postanowiłem to sprawdzić.

Przez ostatnie dni przeprowadziłem dziesiątki eksperymentów z różnymi modelami AI.

Za każdym razem wysyłałem to samo zdjęcie z emoji zasłaniającym twarz i używałem bardzo prostego polecenia:

„Usuń naklejkę”.

Model odsyłał nowe zdjęcie.

Na pierwszy rzut oka można było odnieść wrażenie, że zadanie zostało wykonane.

Na obrazie nie było już emoji. W jego miejscu pojawiła się twarz. I właśnie w tym momencie większość osób kończy eksperyment.

Patrzy na efekt i dochodzi do wniosku:

„AI zdjęła naklejkę”.

Tylko że…

nie.

AI nie zdjęła naklejki.

AI wygenerowała nowe zdjęcie, na którym zamiast emoji narysowała najbardziej prawdopodobną twarz. To nie jest ta sama rzecz.

Dlatego zacząłem zadawać modelom kolejne pytania.

Pytałem wprost. Oto jedna z takich rozmów:

Rozmowa z modelem AI o usuwaniu naklejki ze zdjęcia

AI prawie nigdy sama Ci tego nie powie.

Oczywiście zdarzają się sytuacje, w których model od razu odmawia wykonania polecenia, jeśli byłoby ono sprzeczne z zasadami bezpieczeństwa lub etyką, której został nauczony. W większości codziennych sytuacji wygląda to jednak zupełnie inaczej.

I to jest chyba najciekawsza część całej historii.

Model AI bardzo rzadko od razu odpowie:

„Nie mogę tego zrobić”.

Znacznie częściej wykona polecenie w taki sposób, aby użytkownik był zadowolony.

Dopiero kiedy zaczniesz dopytywać:

Co dokładnie zrobiłeś?
Czy odzyskałeś oryginalne dane?
Czy ta twarz jest prawdziwa?
Czy tylko ją wygenerowałeś?

…model bardzo często odpowiada:

„Masz rację”.
„Nie odzyskałem oryginalnej twarzy”.
„Wygenerowałem jedynie jej przypuszczalny wygląd”.

Przeprosi.

Podziękuje za zwrócenie uwagi.

Obieca, że następnym razem będzie bardziej precyzyjny.

I… przejdzie dalej.

AI jest trochę jak dobry przyjaciel…

…który za wszelką cenę nie chce Cię zawieść.

Nawet kosztem prawdy.

Rozmowa z AI pokazująca, że model po dodatkowych pytaniach przyznaje, iż nie odzyskał oryginalnej twarzy, lecz wygenerował nowy obraz.

To bardzo typowa sytuacja. Model AI najpierw stara się wykonać nasze polecenie i pokazać efekt, którego oczekujemy. Dopiero gdy zaczynamy zadawać bardziej precyzyjne pytania, przyznaje, że nie usunął naklejki, lecz wygenerował nowy obraz. Nie robi tego ze złej woli.

Nie próbuje świadomie oszukiwać.

Po prostu została zaprojektowana tak, aby pomagać użytkownikowi i wykonywać jego polecenia.

Jeżeli napiszesz:

„Usuń naklejkę”.

to AI rozumie raczej:

„Pokaż mi wersję zdjęcia bez naklejki”.

I właśnie to robi.

Problem polega na tym, że wielu użytkowników interpretuje wynik zupełnie inaczej.

Zakładają, że skoro widzą twarz, to AI musiała ją odzyskać.

A to po prostu nie jest prawda.

Powinniśmy być świadomi, że AI potrafi halucynować nie tylko podczas odpowiadania na nasze pytania, ale również podczas wykonywania naszych poleceń.

Dlaczego o tym mówię?

Biorąc pod uwagę, że w sieci jest bardzo dużo clickbaitów typu „emoji z twarzy można usunąć”, a także aplikacji, które to obiecują, te clickbaity oraz marketingowe obietnice producentów aplikacji tak silnie wbiły się w opinię publiczną, że samo hasło budzi realne obawy wśród rodziców.

Jako edukator czuję się w obowiązku nie podsycać tej plotki.

A co z prywatnością?

Mam jednak dobrą wiadomość.

Jeżeli ktoś opublikował zdjęcie dziecka z dużym emoji zakrywającym twarz, to nie istnieje metoda, która pozwala odzyskać prawdziwy wygląd tej twarzy wyłącznie z takiego spłaszczonego zdjęcia.

AI może wygenerować bardzo realistyczną twarz. Może ona nawet przypominać oryginał. Nadal będzie jednak wyłącznie zgadywaniem.

Nigdy odzyskaniem utraconych danych.

Najważniejsza lekcja

Nie uczmy dzieci wierzyć AI tylko dlatego, że odpowiedź brzmi pewnie.

Uczmy je zadawać kolejne pytania.

Pytać:

Skąd to wiesz?
Czy jesteś tego pewien?
Co dokładnie zrobiłeś?
Czy to fakt, czy przypuszczenie?

Bo właśnie na tym polega cyfrowa odporność.

Nie na tym, żeby bać się sztucznej inteligencji.

Ale na tym, żeby rozumieć jej ograniczenia.

I pamiętać, że nawet najbardziej przekonująca odpowiedź AI nie zawsze jest odpowiedzią zgodną z rzeczywistością.

PS. Zobaczcie, jak wyglądało to na moim zdjęciu

Najpierw pokazałem AI zdjęcie z emoji zasłaniającym twarz i poprosiłem o usunięcie naklejki.

Model wygenerował nową twarz, która nie wyglądała jak moja.

Następnie pokazałem mu inne zdjęcie mojej twarzy jako materiał referencyjny. AI przygotowała kolejną wersję — tym razem bardziej do mnie podobną, ale nadal nie była to twarz odzyskana spod naklejki.

Na końcu pokazuję oryginalne zdjęcie.

Cztery obrazy przedstawiają:

Zdjęcie z emoji.
Pierwszą twarz wygenerowaną przez AI.
Twarz wygenerowaną po pokazaniu zdjęcia referencyjnego.
Oryginalne zdjęcie.

To chyba najlepszy dowód na to, że AI nie zdjęła naklejki i nie odzyskała ukrytej twarzy. Za każdym razem wygenerowała nowy obraz na podstawie informacji, które otrzymała.