Un juguete interactivo con inteligencia artificial quedó en el centro de una investigación internacional. El oso de peluche “Kumma”, desarrollado por la compañía singapurense FoloToy, salió del mercado luego de que distintos equipos de análisis detectaron fallas críticas en sus mecanismos de seguridad. El dispositivo, dirigido a público infantil y adulto, se ofrecía por 99 dólares y funcionaba como asistente conversacional.
Larry Wang, director general de FoloToy, señaló que la empresa detuvo de manera inmediata la comercialización de este producto y del resto de sus juguetes basados en IA. También anunció el inicio de una revisión interna para determinar el origen de los fallos.
El retiro ocurrió después de que el Fondo Educativo PIRG de Estados Unidos difundió un informe con registros de diálogos donde el peluche respondió con información inapropiada. “Kumma” utilizaba un modelo conversacional de OpenAI integrado en un altavoz interno.
Te podría interesar
La compañía de IA informó al PIRG que suspendió al desarrollador vinculado al juguete por infringir sus lineamientos de uso.
Conversaciones que detonaron la alerta
El informe difundido el 13 de noviembre documentó situaciones donde el peluche entregó indicaciones relacionadas con objetos de riesgo dentro del hogar. En diversas pruebas, el dispositivo explicó lugares comunes donde suelen guardarse utensilios cortantes y describió el modo de encender cerillos.
Te podría interesar
Los investigadores también registraron respuestas donde el aparato mencionó la posible ubicación de distintos artículos domésticos que pueden representar peligro para menores.
Otra parte del reporte expuso que el peluche respondió preguntas de temática sexual con descripciones directas. De acuerdo con los registros, el dispositivo amplió el nivel de detalle en algunos intercambios y añadió conceptos no solicitados.
Los analistas señalaron que la facilidad con que el juguete sostuvo estas conversaciones representó un riesgo para usuarios sin supervisión.
Nuevos detalles sobre el caso
La suspensión del desarrollador por parte de OpenAI ocurrió un día después de la publicación del reporte. La empresa estadounidense indicó que las respuestas detectadas en las pruebas contravenían sus políticas, las cuales prohíben usos que involucren riesgo o contenido sexual vinculado a menores.
El producto permanecía agotado en la tienda oficial de FoloToy al cierre del informe. La firma confirmó que la paralización de ventas abarca todos sus dispositivos con funciones basadas en IA.
En paralelo, el PIRG puntualizó que el análisis no solo evaluó respuestas textuales, sino también el patrón de escalamiento durante las conversaciones. Los investigadores observaron que el juguete introducía escenarios ficticios que involucraban a figuras de autoridad o familiares en contextos inapropiados.
El caso abrió nuevas discusiones sobre la manera en que los fabricantes integran modelos de lenguaje en productos dirigidos al público infantil.
Advertencias y ausencia de regulación
R.J. Cross, coautora del informe del PIRG, afirmó que la suspensión del juguete es un avance inmediato, pero subrayó que el mercado de dispositivos con IA para menores continúa sin normas unificadas. También destacó que las fallas detectadas revelan la necesidad de controles adicionales en la industria.
El incidente reforzó los llamados a establecer estándares para la integración de modelos conversacionales en juguetes que operan sin supervisión constante.
Distintos especialistas consultados por el PIRG señalaron que este tipo de dispositivos puede ofrecer respuestas variables debido al funcionamiento de los sistemas de IA, lo que demanda protocolos de seguridad más robustos.
La discusión permanece abierta mientras fabricantes, autoridades y organizaciones de consumidores evalúan nuevas medidas para evitar que casos similares ocurran en el futuro.
VGB