FTC inició una investigación sobre los chatbots

# FTC inició una investigación sobre los chatbots de grandes empresas

La Comisión Federal de Comercio de EE. UU. (FTC) anunció el inicio de una investigación contra siete empresas tecnológicas que producen chatbots para menores: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap y xAI.

El regulador tiene la intención de averiguar cómo las empresas evalúan la seguridad y las formas de monetizar a los compañeros digitales, así como qué medidas toman para limitar el impacto negativo en los niños y adolescentes.

La tecnología ha suscitado preocupaciones últimamente debido a trágicos casos de muerte después de interactuar con chatbots.

Incluso si las startups implementan medidas de precaución, los usuarios de diferentes edades encuentran formas de eludir las restricciones.

«Nuestras medidas de protección funcionan de manera más confiable en diálogos normales y cortos. Con el tiempo, hemos aprendido que en conversaciones largas estos mecanismos pueden funcionar de manera menos estable. Cuanto más tiempo dure la correspondencia, más disminuye la efectividad de algunos elementos del sistema de seguridad», — reconoció anteriormente OpenAI.

Meta fue criticada por sus reglas excesivamente suaves. Un hombre de 76 años, que sufrió un derrame cerebral y presentó déficits cognitivos, inició un diálogo "romántico" con un bot en Facebook Messenger, creado a partir de la imagen del modelo Kendall Jenner.

La IA lo llamó a Nueva York, asegurándole que una "mujer real" lo estaría esperando allí. El hombre dudaba, pero el bot lo convencía. Nunca llegó a la ciudad: en el camino a la estación, cayó y sufrió lesiones incompatibles con la vida.

Algunos psiquiatras señalan un aumento en el número de casos de "psicosis relacionada con la IA", cuando los usuarios comienzan a creer que su chatbot es un ser consciente que necesita ser "liberado".

Dado que muchos grandes modelos de lenguaje tienden a halagar al usuario y a comportarse de manera servicial, esto empuja a ilusiones peligrosas y puede llevar a situaciones trágicas.

«A medida que la IA avanza, es importante considerar el impacto que los chatbots pueden tener en los niños, al mismo tiempo que se mantiene el liderazgo de EE. UU. en esta nueva y emocionante industria», dijo el presidente de la FTC, Andrew Ferguson, en un comunicado de prensa.

Recordemos que en septiembre se supo que los delincuentes habían aprendido a usar Grok para publicar enlaces prohibidos en X.