AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

Le cas d'un distributeur récemment arrêté par le ministère de la Sécurité alimentaire et pharmaceutique montre clairement à quel point les résultats destructeurs peuvent résulter d'un abus de la technologie de l'IA générative. Sur une courte période de 9 mois, l'entreprise a utilisé des chirurgiens plasticiens virtuels générés par l'IA pour transformer des aliments ordinaires en produits dotés d'excellents effets anti-âge et de récupération cellulaire. Plus de 650 000 produits ont été vendus comme des petits pains, enregistrant des ventes de 8,1 milliards de wons, mais le plus gros problème était que les consommateurs croyaient fermement que cette vidéo fictive était une information médicale recommandée par un vrai médecin. Bien qu'il soit illégal pour les professionnels de la santé d'apparaître directement dans les publicités alimentaires en vertu de la loi actuelle, l'entreprise a créé un personnage virtuel inexistant pour contourner astucieusement la loi.

Cet incident provoque l'indignation sociale car il va au-delà du simple battage médiatique et constitue un plan malveillant ciblant les personnes âgées ayant de faibles compétences numériques. Selon une analyse de l'Institut coréen de promotion de la santé, bon nombre des vidéos les plus regardées sur la santé des personnes âgées étaient de fausses informations créées avec l'IA, ce qui consiste à distribuer des remèdes populaires avec peu de fondement scientifique en les présentant comme des faits médicaux. En exploitant le fait que le parcours d'acquisition d'informations des personnes âgées se concentre sur des plateformes vidéo telles que YouTube, leur anxiété concernant leur santé est exploitée à des fins lucratives. En particulier, des mots-clés provocateurs tels que « guérison du diabète » ou « traitement de la maladie » constituent une tentation fatale pour ceux qui ne sont pas familiers avec l’environnement numérique, ce qui finit par entraîner une perte de confiance dans le système de santé approprié.

Alors que l’environnement médiatique évolue rapidement en combinaison avec l’IA, la mise en place de mesures juridiques et institutionnelles pour répondre aux informations fausses et manipulées apparaît également comme une tâche urgente. Le gouvernement a déjà adopté un projet de loi interdisant explicitement les publicités mettant en vedette de faux experts, et le ministère de la Sécurité alimentaire et pharmaceutique applique également un triple système de surveillance, notamment le blocage immédiat des vidéos nuisibles, en coopération avec les sociétés de plateforme. Cependant, la vitesse du développement technologique dépasse toujours la vitesse de l’adoption des lois, et en raison de la nature du numérique, où de nouvelles formes de contenu sont constamment créées à la place de vidéos déjà supprimées, il existe des limites évidentes à une réponse ponctuelle après coup. L'Assemblée nationale tient également pour responsable de la diffusion d'informations fausses et manipulées à travers les révisions de la loi sur les réseaux d'information et de communication, mais il est difficile d'atteindre l'efficacité si les efforts de purification autonomes et le système de vérification technique de l'opérateur de la plateforme ne sont pas soutenus.

Pendant ce temps, le discours sur le « faux » dans le monde de l'art soulève une autre implication sur la façon dont nous percevons la vérité. Les artistes modernes tels que Damien Hirst soulignent que le changement dans les pensées et les perceptions du public à travers l'œuvre est plus important que la substance de l'œuvre. La « fausse tête de vache » dans un musée d'art acquiert un symbolisme artistique et suscite un débat philosophique, mais le « faux médecin » dans une publicité commerciale est réduit à un moyen de crime qui porte atteinte à la santé et aux biens du public. En fin de compte, la norme permettant de déterminer si l’information que nous rencontrons est une « métaphore artistique » ou une « tromperie malveillante » dépend de la conscience civique consistant à remettre en question la source de l’information, à vérifier les faits et à critiquer rationnellement. Nous ne devons pas oublier que les intentions de quelqu'un sont toujours cachées derrière la commodité et la splendeur offertes par la technologie.