Las dos caras de la IA generativa: ¿innovación industrial o riesgo sin red de seguridad? > Noticias

Recientemente, las industrias nacionales y extranjeras están utilizando la IA generativa como motor clave de la innovación empresarial. Tras la introducción de ChatGPT por parte de Samsung Electronics a nivel de toda la empresa, SK Hynix también revisó su sistema de seguridad y formalizó el uso de IA generada externamente. No se trata simplemente de seguir tendencias, sino de una opción estratégica para asegurar la competitividad en el mercado global maximizando la eficiencia del proceso de investigación y desarrollo (I+D) y acelerando la toma de decisiones. De hecho, Samsung Electronics confirmó a través de pruebas internas que ChatGPT tiene la mayor idoneidad comercial y satisfacción del usuario, y está vinculando esto con la estrategia de conversión de IA (AX) de todo el grupo. Las empresas ahora eligen tecnologías más allá del rendimiento de sus modelos de IA, en función de qué tan bien funcionan en situaciones del mundo real y captan con precisión la intención de la pregunta que se formula.

Sin embargo, abundan las críticas de que las medidas de seguridad que lo respaldan aún son débiles en comparación con la velocidad con la que se está difundiendo la tecnología. Los fiscales generales de 12 estados de EE. UU. emitieron citaciones a OpenAI, apuntando a los problemas de seguridad de ChatGPT. Esta es una advertencia de que ya no podemos ignorar los efectos sociales secundarios que la IA puede causar, como su conexión con el crimen, problemas con la protección de menores y respuestas que aumentan la ansiedad psicológica de los usuarios. De hecho, la IA abierta se ha convertido en el centro de la responsabilidad legal y ética a medida que han surgido sospechas de que el sospechoso del tiroteo utilizó la IA para planificar el crimen o que las respuestas de la IA influyeron en las decisiones extremas de ciertas personas. Desde la perspectiva de Open AI, que se prepara para una oferta pública inicial (IPO), las investigaciones de estas autoridades reguladoras están actuando como una enorme variable que aumenta la incertidumbre en el proceso de cotización.

Incluso para usuarios individuales, la IA actúa como un arma de doble filo. Recientemente, se han producido una serie de casos de pago no autorizado de grandes cantidades de dinero debido al robo de información de tarjetas de personas que nunca han utilizado ChatGPT, lo que revela un agujero en el sistema de seguridad. Esto es más que un simple error técnico, es un incidente de seguridad grave que amenaza fundamentalmente la confiabilidad de la plataforma. Además, como en el caso de Japón, a medida que aumenta el número de jóvenes que eligen la IA en lugar de las personas como centro de asesoramiento, también han surgido las limitaciones del asesoramiento de la IA y las cuestiones de responsabilidad. Aunque la IA tiene una inteligencia sobresaliente para señalar detalles que los humanos pasan por alto, nunca debemos olvidar que no tiene ninguna responsabilidad por los resultados de sus respuestas.

Sin embargo, el potencial de la IA generativa todavía funciona como una tecnología cálida que rompe las barreras sociales. El Consejo Internacional para Discapacitados de Busan publicó una colección de dichos con ilustraciones creadas por personas con discapacidad que utilizan IA, mostrando un ejemplo de cómo la clase digitalmente desfavorecida se convierte en creadores seguros de sí mismos más allá de los consumidores de tecnología. Esto demuestra el valor de la IA como bienestar tecnológico y sugiere la dirección correcta en la que debemos avanzar. Mientras tanto, en el mercado coreano continúa la feroz competencia entre servicios, con 'Claude' de Antropic revolucionando el sistema de dos niveles de ChatGPT y Gemini y saltando al segundo lugar en ventas. Esta dinámica del mercado ofrece a los usuarios mejores opciones, pero al mismo tiempo sugiere que el enfoque cauteloso y la conciencia de la protección de la información de los usuarios que utilizan varios modelos en paralelo son cada vez más importantes.