Les deux visages de l’IA générative : Innovation industrielle ou risque sans filet de sécurité ? > Actualités

Récemment, les industries nationales et étrangères utilisent l'IA générative comme moteur clé de l'innovation commerciale. Suite à l'introduction de ChatGPT par Samsung Electronics à l'échelle de l'entreprise, SK Hynix a également revu son système de sécurité et formalisé l'utilisation de l'IA générée en externe. Il ne s’agit pas simplement de suivre les tendances, mais d’un choix stratégique visant à garantir la compétitivité sur le marché mondial en maximisant l’efficacité du processus de recherche et développement (R&D) et en accélérant la prise de décision. En fait, Samsung Electronics a confirmé grâce à des tests internes que ChatGPT présente la plus grande adéquation commerciale et satisfaction des utilisateurs, et relie cela à la stratégie de conversion IA (AX) à l'échelle du groupe. Les entreprises choisissent désormais des technologies au-delà des performances de leurs modèles d’IA, en fonction de leur efficacité dans des situations réelles et de leur capacité à capturer avec précision l’intention de la question posée.

Cependant, les critiques affluent selon lesquelles les mesures de sécurité qui la soutiennent sont encore faibles par rapport à la vitesse à laquelle la technologie se propage. Les procureurs généraux de 12 États américains ont assigné OpenAI à comparaître, visant les problèmes de sécurité de ChatGPT. C'est un avertissement que nous ne pouvons plus ignorer les effets secondaires sociaux que l'IA peut provoquer, tels que son lien avec la criminalité, les problèmes de protection des mineurs et les réponses qui augmentent l'anxiété psychologique des utilisateurs. En fait, l'IA ouverte est devenue au centre de la responsabilité juridique et éthique, car des soupçons ont été soulevés selon lesquels le suspect de la fusillade aurait utilisé l'IA pour planifier le crime ou que les réponses de l'IA auraient influencé les choix extrêmes de certaines personnes. Du point de vue d'Open AI, qui se prépare à une introduction en bourse (IPO), les enquêtes de ces autorités de régulation agissent comme une énorme variable qui augmente l'incertitude dans le processus de cotation.

Même pour les utilisateurs individuels, l’IA agit comme une arme à double tranchant. Récemment, un certain nombre de cas de paiement non autorisé de grosses sommes d'argent ont été enregistrés en raison du vol d'informations de carte de personnes qui n'avaient jamais utilisé ChatGPT, révélant une faille dans le système de sécurité. Il s’agit plus qu’une simple erreur technique, c’est un grave incident de sécurité qui menace fondamentalement la fiabilité de la plateforme. En outre, comme dans le cas du Japon, à mesure que le nombre de jeunes choisissant l'IA plutôt que les personnes comme centre de conseil augmente, les limites des conseils d'AI et les problèmes de responsabilité sont également apparus. Bien que l’IA soit dotée d’une intelligence exceptionnelle pour signaler les détails qui échappent aux humains, nous ne devons jamais oublier qu’elle n’assume aucune responsabilité quant aux résultats de ses réponses.

Néanmoins, le potentiel de l’IA générative fonctionne toujours comme une technologie chaleureuse qui brise les barrières sociales. Le Conseil international de Busan pour les personnes handicapées a publié un recueil de paroles accompagnées d'illustrations créées par des personnes handicapées à l'aide de l'IA, montrant un exemple de la classe numériquement défavorisée devenant des créateurs confiants au-delà des consommateurs de technologie. Cela prouve la valeur de l’IA en tant que bien-être technologique et suggère la bonne direction dans laquelle nous devrions aller. Pendant ce temps, sur le marché coréen, la concurrence féroce entre les services continue, avec « Claude » d'Antropic qui bouleverse le système à deux niveaux de ChatGPT et Gemini et passe à la deuxième place des ventes. Cette dynamique de marché offre aux utilisateurs de meilleures options, mais en même temps, elle suggère que l'approche prudente et la sensibilisation à la protection des informations des utilisateurs qui utilisent différents modèles en parallèle deviennent de plus en plus importantes.