AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

Przypadek dystrybutora złapany niedawno przez Ministerstwo Bezpieczeństwa Żywności i Leków wyraźnie pokazuje, jak destrukcyjne skutki może wywołać nadużywanie technologii generatywnej sztucznej inteligencji. W ciągu krótkiego okresu 9 miesięcy firma wykorzystała wirtualnych chirurgów plastycznych wygenerowanych przez sztuczną inteligencję do przekształcenia zwykłej żywności w produkty o doskonałych efektach przeciwstarzeniowych i regeneracji komórek. Ponad 650 000 produktów sprzedało się jak ciepłe bułeczki, osiągając sprzedaż na poziomie 8,1 miliarda wonów, ale największym problemem było to, że konsumenci mocno wierzyli, że ten fikcyjny film to informacja medyczna polecona przez prawdziwego lekarza. Chociaż zgodnie z obowiązującym prawem bezpośrednie pojawianie się personelu medycznego w reklamach żywności jest nielegalne, firma stworzyła nieistniejącą wirtualną postać, aby sprytnie obejść to prawo.

Ten incydent wywołuje oburzenie społeczne, ponieważ wykracza poza zwykły szum medialny i stanowi złośliwy plan wymierzony w osoby starsze o słabych umiejętnościach cyfrowych. Według analizy przeprowadzonej przez Koreański Instytut Promocji Zdrowia wiele z najpopularniejszych wyświetleń filmów wideo poświęconych zdrowiu osób starszych to fałszywe informacje utworzone za pomocą sztucznej inteligencji, co oznacza rozpowszechnianie środków ludowych o niewielkiej podstawie naukowej poprzez przedstawianie ich jako faktów medycznych. Wykorzystując fakt, że ścieżka zdobywania informacji przez osoby starsze koncentruje się na platformach wideo takich jak YouTube, ich niepokój o swoje zdrowie wykorzystuje się do celów zarobkowych. Szczególnie prowokacyjne słowa kluczowe typu „leczenie cukrzycy” czy „leczenie choroby” stanowią śmiertelną pokusę dla osób nieobeznanych ze środowiskiem cyfrowym, co w ostatecznym rozrachunku skutkuje załamaniem zaufania do prawidłowego systemu opieki zdrowotnej.

Ponieważ środowisko medialne szybko się zmienia w połączeniu ze sztuczną inteligencją, pilnym zadaniem staje się również ustanowienie środków prawnych i instytucjonalnych umożliwiających reagowanie na fałszywe i zmanipulowane informacje. Rząd przyjął już ustawę wyraźnie zakazującą reklam przedstawiających fałszywych ekspertów, a Ministerstwo Bezpieczeństwa Żywności i Leków również stosuje potrójny system nadzoru, obejmujący natychmiastowe blokowanie szkodliwych filmów we współpracy z firmami platformowymi. Jednak tempo rozwoju technologicznego zawsze przewyższa szybkość stanowienia prawa, a ze względu na charakter technologii cyfrowej, w której w miejsce usuniętych już filmów stale tworzone są nowe formy treści, istnieją wyraźne ograniczenia w zakresie reakcji zwrotnej po fakcie. Zgromadzenie Narodowe ponosi także odpowiedzialność za rozpowszechnianie fałszywych i zmanipulowanych informacji poprzez nowelizację ustawy o sieci teleinformatycznej, jednak skuteczność jest trudna do osiągnięcia, jeśli nie wspiera się autonomicznych działań operatora platformy w zakresie oczyszczania i systemu weryfikacji technicznej.

Tymczasem dyskurs na temat „fałszywości” w świecie sztuki narzuca kolejną implikację dotyczącą tego, jak postrzegamy prawdę. Współcześni artyści, tacy jak Damien Hirst, podkreślają, że zmiana myśli i percepcji odbiorców poprzez dzieło jest ważniejsza niż treść dzieła. „fałszywa głowa krowy” w muzeum sztuki nabiera artystycznej symboliki i wzbudza filozoficzną debatę, ale „fałszywy lekarz” w reklamie komercyjnej zostaje zredukowany do środka przestępczego, który narusza zdrowie i mienie publiczne. Ostatecznie standard oceny, czy informacja, z którą się spotykamy, jest „metaforą artystyczną”, czy też „złośliwym oszustwem”, zależy od świadomości obywatelskiej kwestionowania źródła informacji, sprawdzania faktów i racjonalnej krytyki. Nie wolno nam zapominać, że czyjeś intencje zawsze kryją się za wygodą i splendorem, jaki zapewnia technologia.