AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

Il caso di un distributore recentemente catturato dal Ministero della sicurezza alimentare e farmaceutica mostra chiaramente come si possano ottenere risultati distruttivi quando si abusa della tecnologia dell’intelligenza artificiale generativa. In un breve periodo di 9 mesi, l’azienda ha utilizzato chirurghi plastici virtuali generati dall’intelligenza artificiale per trasformare gli alimenti comuni in prodotti con eccellenti effetti antietà e di recupero cellulare. Oltre 650.000 prodotti furono venduti a ruba, registrando un fatturato di 8,1 miliardi di won, ma il problema più grande era che i consumatori credevano fermamente che questo video fittizio fosse un'informazione medica consigliata da un vero medico. Anche se secondo la legge attuale è illegale per i professionisti medici apparire direttamente nelle pubblicità di prodotti alimentari, l'azienda ha creato un personaggio virtuale inesistente per aggirare abilmente la legge.

Questo incidente sta provocando indignazione sociale in quanto va oltre la semplice campagna pubblicitaria ed è un piano dannoso che prende di mira gli anziani con scarse competenze di alfabetizzazione digitale. Secondo un’analisi del Korea Health Promotion Institute, molte delle visualizzazioni più importanti di video relativi alla salute degli anziani erano informazioni false create con l’intelligenza artificiale, e questo sta distribuendo rimedi popolari con poche basi scientifiche confezionandoli come fatti medici. Sfruttando il fatto che il percorso di acquisizione delle informazioni degli anziani si concentra su piattaforme video come YouTube, la loro ansia per la propria salute viene sfruttata a fini di lucro. In particolare, parole chiave provocatorie come “cura del diabete” o “cura delle malattie” rappresentano una tentazione fatale per coloro che non hanno familiarità con l’ambiente digitale, il che alla fine si traduce in una rottura della fiducia nel sistema sanitario adeguato.

Poiché l’ambiente mediatico sta cambiando rapidamente insieme all’intelligenza artificiale, anche l’istituzione di misure legali e istituzionali per rispondere a informazioni false e manipolate sta emergendo come un compito urgente. Il governo ha già approvato un disegno di legge che vieta esplicitamente la pubblicità di falsi esperti, e anche il Ministero per la sicurezza alimentare e farmaceutica sta attuando un triplo sistema di sorveglianza, compreso il blocco immediato dei video dannosi in collaborazione con le società di piattaforme. Tuttavia, la velocità dello sviluppo tecnologico supera sempre la velocità dell’attuazione della legge e, a causa della natura del digitale, in cui vengono costantemente create nuove forme di contenuto al posto di video già cancellati, ci sono chiari limiti a una risposta immediata dopo l’accaduto. Anche l'Assemblea nazionale si ritiene responsabile della distribuzione di informazioni false e manipolate attraverso le revisioni della legge sulla rete di informazione e comunicazione, ma è difficile raggiungere l'efficacia se gli sforzi di purificazione autonomi e il sistema di verifica tecnica dell'operatore della piattaforma non sono supportati.

Nel frattempo, il discorso sul 'falso' nel mondo dell'arte solleva un'altra implicazione su come percepiamo la verità. Artisti moderni come Damien Hirst sottolineano che il cambiamento nei pensieri e nelle percezioni del pubblico attraverso l'opera è più importante della sostanza dell'opera. La 'falsa testa di mucca' in un museo d'arte acquista simbolismo artistico e suscita dibattiti filosofici, ma il 'falso medico' in una pubblicità commerciale è ridotto a un mezzo di crimine che viola la salute e la proprietà pubblica. Alla fine, lo standard per determinare se l’informazione che incontriamo è una “metafora artistica” o un “inganno dannoso” dipende dalla coscienza civica di mettere in discussione la fonte dell’informazione, controllare i fatti e criticare razionalmente. Non dobbiamo dimenticare che le intenzioni di qualcuno sono sempre nascoste dietro la comodità e lo splendore forniti dalla tecnologia.