AI가 빚어낸 81억 원의 환상: '가짜 전문가' 뒤에 숨은 디지털 기만과 사회적 명암 > K-wave Trends

O caso de um distribuidor recentemente apanhado pelo Ministério da Segurança Alimentar e Medicamentosa mostra claramente como podem resultar resultados destrutivos quando a tecnologia de IA generativa é abusada. Durante um curto período de 9 meses, a empresa utilizou cirurgiões plásticos virtuais gerados por IA para transformar alimentos comuns em produtos com excelentes efeitos antienvelhecimento e de recuperação celular. Mais de 650 mil produtos foram vendidos como bolos quentes, registrando vendas de 8,1 bilhões de won, mas o maior problema era que os consumidores acreditavam firmemente que este vídeo fictício era informação médica recomendada por um médico real. Embora seja ilegal que profissionais médicos apareçam diretamente em anúncios de alimentos de acordo com a lei atual, a empresa criou um personagem virtual inexistente para contornar a lei de forma inteligente.

Este incidente está a causar indignação social, pois vai além do simples exagero e é um plano malicioso que visa os idosos com fracas competências de literacia digital. De acordo com uma análise do Instituto Coreano de Promoção da Saúde, muitas das principais visualizações de vídeos relacionados com a saúde dos idosos eram informações falsas criadas com IA, e isto está a distribuir remédios populares com pouca base científica, empacotando-os como factos médicos. Ao explorar o facto de o caminho de aquisição de informação dos idosos estar concentrado em plataformas de vídeo como o YouTube, a sua ansiedade em relação à sua saúde é explorada para fins lucrativos. Em particular, palavras-chave provocativas como “cura da diabetes” ou “tratamento de doenças” são uma tentação fatal para aqueles que não estão familiarizados com o ambiente digital, o que acaba por resultar numa quebra de confiança no sistema de saúde adequado.

À medida que o ambiente mediático está a mudar rapidamente em combinação com a IA, o estabelecimento de medidas legais e institucionais para responder a informações falsas e manipuladas também está a emergir como uma tarefa urgente. O governo já aprovou uma lei que proíbe explicitamente anúncios com falsos especialistas, e o Ministério da Segurança Alimentar e Medicamentosa também está a operar um sistema de vigilância triplo, incluindo o bloqueio imediato de vídeos prejudiciais em cooperação com empresas de plataformas. No entanto, a velocidade do desenvolvimento tecnológico ultrapassa sempre a velocidade da promulgação da lei e, devido à natureza do digital, onde novas formas de conteúdo são constantemente criadas em vez de vídeos já eliminados, existem limites claros para uma resposta imediata após o facto. A Assembleia Nacional também responsabiliza pela distribuição de informações falsas e manipuladas através de revisões da Lei das Redes de Informação e Comunicações, mas é difícil alcançar eficácia se os esforços autónomos de purificação e o sistema de verificação técnica do operador da plataforma não forem apoiados.

Entretanto, o discurso sobre o “falso” no mundo da arte levanta outra implicação sobre a forma como percebemos a verdade. Artistas modernos como Damien Hirst enfatizam que a mudança nos pensamentos e percepções do público através da obra é mais importante do que a substância da obra. A “falsa cabeça de vaca” num museu de arte adquire simbolismo artístico e suscita debate filosófico, mas o “falso médico” numa publicidade comercial é reduzido a um meio de crime que viola a saúde e a propriedade do público. No final, o padrão para determinar se a informação que encontramos é uma “metáfora artística” ou um “engano malicioso” depende da consciência cívica de questionar a fonte da informação, verificar os factos e criticar racionalmente. Não devemos esquecer que as intenções de alguém estão sempre escondidas atrás da comodidade e do esplendor proporcionado pela tecnologia.