AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

De zaak van een distributeur die onlangs door het Ministerie van Voedsel- en Geneesmiddelenveiligheid is betrapt, laat duidelijk zien hoe destructieve resultaten kunnen voortvloeien wanneer generatieve AI-technologie wordt misbruikt. Gedurende een korte periode van negen maanden gebruikte het bedrijf door AI gegenereerde virtuele plastisch chirurgen om gewone voedingsmiddelen om te zetten in producten met uitstekende antiverouderings- en celhersteleffecten. Ruim 650.000 producten werden als zoete broodjes verkocht, wat neerkwam op een omzet van 8,1 miljard won, maar het grootste probleem was dat consumenten er vast van overtuigd waren dat deze fictieve video medische informatie was, aanbevolen door een echte arts. Hoewel het volgens de huidige wet voor medische professionals illegaal is om rechtstreeks in voedseladvertenties te verschijnen, creëerde het bedrijf een niet-bestaand virtueel personage om de wet op slimme wijze te omzeilen.

Dit incident veroorzaakt sociale verontwaardiging omdat het verder gaat dan een simpele hype en een kwaadaardig plan is dat zich richt op ouderen met zwakke digitale vaardigheden. Volgens een analyse van het Korea Health Promotion Institute waren veel van de populaire video's over de gezondheid van ouderen nepinformatie die met AI was gecreëerd, en dit verspreidt volksremedies met weinig wetenschappelijke basis door ze als medische feiten te verpakken. Door gebruik te maken van het feit dat het informatieverwervingstraject van ouderen zich concentreert op videoplatforms als YouTube, wordt hun angst voor hun gezondheid uitgebuit voor winstdoeleinden. Met name provocerende trefwoorden als ‘diabetesgenezing’ of ‘ziektebehandeling’ zijn een fatale verleiding voor degenen die niet bekend zijn met de digitale omgeving, wat uiteindelijk resulteert in een verlies van vertrouwen in het goede gezondheidszorgsysteem.

Nu de mediaomgeving in combinatie met AI snel verandert, wordt het opzetten van juridische en institutionele maatregelen om te reageren op valse en gemanipuleerde informatie ook een urgente taak. De regering heeft al een wetsvoorstel aangenomen dat advertenties met nep-experts expliciet verbiedt, en het ministerie van Voedsel- en Drugsveiligheid hanteert ook een drievoudig toezichtsysteem, inclusief het onmiddellijk blokkeren van schadelijke video’s in samenwerking met platformbedrijven. De snelheid van de technologische ontwikkeling overtreft echter altijd de snelheid van de wetsbepaling, en vanwege de aard van de digitale wereld, waar voortdurend nieuwe vormen van inhoud worden gecreëerd in plaats van reeds verwijderde video's, zijn er duidelijke grenzen aan een snelle reactie achteraf. De Nationale Assemblee houdt ook verantwoordelijkheid voor de verspreiding van valse en gemanipuleerde informatie door middel van herzieningen van de Informatie- en Communicatienetwerkwet, maar het is moeilijk om effectiviteit te bereiken als de autonome zuiveringsinspanningen en het technische verificatiesysteem van de platformexploitant niet worden ondersteund.

Ondertussen werpt het discours over 'fake' in de kunstwereld een andere implicatie op over hoe we waarheid waarnemen. Moderne kunstenaars als Damien Hirst benadrukken dat de verandering in de gedachten en percepties van het publiek door het werk belangrijker is dan de inhoud van het werk. De 'nep-koeienkop' in een kunstmuseum krijgt artistieke symboliek en lokt filosofisch debat uit, maar de 'nep-dokter' in een commerciële advertentie wordt gereduceerd tot een misdaadmiddel dat de gezondheid en eigendommen van het publiek schendt. Uiteindelijk hangt de maatstaf om te bepalen of de informatie die we tegenkomen een ‘artistieke metafoor’ of een ‘kwaadwillige misleiding’ is, af van het burgerbewustzijn van het in twijfel trekken van de bron van de informatie, het controleren van de feiten en het rationeel bekritiseren. We mogen niet vergeten dat iemands bedoelingen altijd verborgen zijn achter het gemak en de pracht die technologie biedt.