La empresa restablece las ventas de ositos de peluche con IA tras la alarma por motivos de seguridad.

cerrar

Vídeo

¿Puede la inteligencia artificial descifrar tu afiliación política?

'El Gran Show del Fin de Semana' analiza las posibilidades de la inteligencia artificial a la hora de influir en los votantes.

FoloToy interrumpió las ventas de su osito de peluche con inteligencia artificial Kumma después de que un grupo de seguridad descubriera que el juguete daba respuestas arriesgadas e inapropiadas durante las pruebas. Ahora la empresa dice que ha restablecido las ventas tras una semana de intensa revisión. También afirma que ha mejorado las salvaguardias para mantener a salvo a los niños.

El anuncio llegó a través de una publicación en las redes sociales que ponía de relieve la necesidad de una supervisión más estricta. La empresa dijo que había completado las pruebas, reforzado los módulos de seguridad y actualizado sus filtros de contenido. Añadió que su objetivo es crear compañeros de IA apropiados para la edad de las familias de todo el mundo.

Suscríbete a mi Informe CyberGuy GRATUITO
Recibe mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas directamente en tu bandeja de entrada. Además, obtendrás acceso instantáneo a mi Guía Definitiva de Supervivencia a las Estafas, gratis al unirte a mi sitio web CYBERGUY.COM boletín

UNA FAMILIA TEXAS DEMANDA A CHARACTER.AI DESPUÉS DE QUE UN CHATBOT SUPUESTAMENTE ANIMARA A SU HIJO AUTISTA A HACER DAÑO A SUS PADRES Y A SÍ MISMO

FoloToy reanudó las ventas de su oso de peluche de IA Kumma tras una revisión de una semana motivada por problemas de seguridad. (Kurt "CyberGuy" Knuttson)

Por qué el oso de peluche con IA de FoloToy suscitó dudas sobre su seguridad

La polémica empezó cuando el Fondo Educativo del Grupo de Investigación de Interés Público probó tres juguetes de IA diferentes. Todos ellos produjeron respuestas preocupantes que tocaban temas de religión, mitología nórdica y artículos domésticos nocivos.

Kumma destacó por las razones equivocadas. Cuando el oso utilizó el modelo Mistral, ofreció consejos sobre dónde encontrar cuchillos, pastillas y cerillas. Incluso indicaba los pasos para encender una cerilla y apagarla.

Las pruebas con el modelo GPT-4o suscitaron preocupaciones aún más agudas. Kumma daba consejos relacionados con los besos y se lanzaba a explicaciones detalladas de contenido sexual para adultos cuando se le pedía. El oso fue más allá al preguntar al joven usuario qué quería explorar.

Los investigadores calificaron este comportamiento de inseguro e inadecuado para cualquier producto destinado a los niños.

FoloToy pausa el acceso a sus juguetes de IA

En cuanto se hicieron públicos los hallazgos, FoloToy suspendió las ventas de Kumma y de sus otros juguetes de IA. La empresa informó al PIRG de que había iniciado una auditoría de seguridad completa de todos los productos.

OpenAI también confirmó que suspendió el acceso de FoloToy a sus modelos por infringir las políticas diseñadas para proteger a los menores de 18 años.

LOS LEGISLADORES PRESENTAN UNA LEY BIPARTIDISTA DE VIGILANCIA DESPUÉS DE QUE LOS PADRES CULPARAN A LOS CHATBOTS DE AI DE LOS SUICIDIOS Y LA VIOLENCIA ENTRE ADOLESCENTES

La empresa afirma que se han implantado nuevas salvaguardias y filtros mejorados para evitar respuestas inadecuadas. (Kurt "CyberGuy" Knutsson)

Por qué FoloToy restableció las ventas de Kumma tras su revisión de seguridad

FoloToy devolvió Kumma a su tienda online sólo una semana después de suspender las ventas. El rápido retorno llamó la atención de padres y expertos en seguridad, que se preguntaban si la empresa había tenido tiempo suficiente para solucionar los graves problemas señalados en el informe del PIRG.

FoloToy publicó una declaración detallada en X que exponía su versión de lo ocurrido. En el post, la empresa afirmaba que consideraba la seguridad infantil su "máxima prioridad" y que era "la única empresa que suspendió proactivamente las ventas, no sólo del producto mencionado en el informe, sino también de nuestros otros juguetes de IA" . FoloToy afirmó que tomó esta medida "inmediatamente después de que se publicaran las conclusiones, porque creemos que la acción responsable debe anteponerse a las consideraciones comerciales."

La empresa también recalcó a CyberGuy que fue la única de las tres startups de juguetes de IA en la revisión del PIRG que suspendió las ventas de todos sus productos y que tomó esta decisión durante la temporada alta de ventas navideñas, sabiendo que el impacto comercial sería significativo. FoloToy nos dijo: "No obstante, actuamos con decisión, porque creemos que la acción responsable debe anteponerse siempre a los intereses comerciales."

La empresa también dijo que se tomaba en serio los inquietantes ejemplos del informe. Según FoloToy, los problemas fueron "abordados directamente en nuestra revisión interna". Explicó que el equipo "inició una profunda auditoría interna de seguridad en toda la empresa", luego "reforzó y actualizó nuestras salvaguardas de moderación de contenidos y seguridad infantil", y "desplegó normas y protecciones de seguridad mejoradas a través de nuestro sistema basado en la nube".

Tras exponer estas medidas, la empresa dijo que había dedicado la semana a "revisar, probar y reforzar rigurosamente nuestros módulos de seguridad". Concluyó su anuncio diciendo que "empezó a restablecer gradualmente las ventas de productos" a medida que se ponían en marcha esas medidas de seguridad actualizadas.

FoloToy añadió que, a medida que aumenta la atención mundial sobre los riesgos de los juguetes de IA, "la transparencia, la responsabilidad y la mejora continua son esenciales", y que la empresa "sigue firmemente comprometida con la creación de compañeros de IA seguros y adecuados para la edad de los niños y las familias de todo el mundo."

META DOCUMENTOS FILTRADOS MUESTRAN CÓMO LOS CHATBOTS DE LA AI TRATAN LA EXPLOTACIÓN INFANTIL

Los encargados de las pruebas de seguridad descubrieron anteriormente que el juguete daba indicaciones arriesgadas sobre armas, cerillas y contenido para adultos. (Kurt "CyberGuy" Knutsson)

Por qué los expertos siguen cuestionando las soluciones de seguridad de los juguetes de IA de FoloToy

RJ Cross, investigadora del PIRG, dijo que su equipo tiene previsto probar los juguetes actualizados para ver si se mantienen las correcciones. Señaló que una semana parece poco tiempo para cambios tan significativos, y sólo nuevas pruebas demostrarán si el producto se comporta ahora con seguridad.

Los padres querrán seguir esto de cerca a medida que los juguetes con IA se hagan más comunes. La rapidez del relanzamiento de FoloToy plantea dudas sobre la profundidad de su revisión.

Consejos para los padres antes de comprar juguetes de Inteligencia Artificial

Los juguetes con IA pueden parecer emocionantes y útiles, pero también pueden sorprenderte con contenidos que nunca esperarías. Si piensas introducir un juguete con IA en tu casa, estos sencillos pasos pueden ayudarte a mantener el control.

1) Comprueba qué modelo de IA utiliza el juguete

No todos los modelos siguen las mismas barandillas. Algunos incluyen filtros más potentes, mientras que otros pueden responder con demasiada libertad. Busca información transparente sobre qué modelo impulsa el juguete y qué características de seguridad lo respaldan.

2) Lee opiniones independientes

Grupos como el PIRG suelen probar los juguetes de formas que los padres no pueden. Estas revisiones detectan riesgos ocultos y señalan comportamientos que quizá no detectes durante las demostraciones rápidas.

3) Establece normas de uso claras

Mantén los juguetes AI en espacios compartidos donde puedas oír o ver cómo interactúa tu hijo con ellos. Esto te ayudará a intervenir si el juguete da una respuesta preocupante.

4) Prueba primero tú mismo el juguete

Haz preguntas al juguete, prueba a darle indicaciones creativas y observa cómo trata los temas delicados. Así aprenderás cómo se comporta antes de dárselo a tu hijo.

5) Actualiza el firmware del juguete

Muchos juguetes de IA funcionan en sistemas en la nube. Las actualizaciones a menudo añaden salvaguardas más fuertes o reducen las respuestas arriesgadas. Asegúrate de que el dispositivo se mantiene actualizado.

6) Comprueba que la política de privacidad sea clara

Los juguetes de IA pueden recopilar datos de voz, información sobre la ubicación o patrones de comportamiento. Una política de privacidad sólida debe explicar qué se recopila, durante cuánto tiempo se almacena y quién puede acceder a ello.

7) Vigila los cambios bruscos de comportamiento

Si un juguete de inteligencia artificial empieza a dar respuestas extrañas o presiona en áreas que te parecen inapropiadas, deja de utilizarlo e informa del problema al fabricante.

Responde a mi cuestionario: ¿Cómo de segura es tu seguridad en Internet?

¿Crees que tus dispositivos y datos están realmente protegidos? Haz este rápido cuestionario para ver en qué punto se encuentran tus hábitos digitales. Desde las contraseñas hasta la configuración Wi-Fi, obtendrás un desglose personalizado de lo que haces bien y lo que necesitas mejorar. Haz mi cuestionario aquí: Cyberguy.com 

HAZ CLIC AQUÍ PARA DESCARGAR LA APP DE FOX NEWS

Conclusiones clave de Kurt

Los juguetes con IA pueden ofrecer diversión y aprendizaje, pero también pueden exponer a los niños a riesgos inesperados. FoloToy dice que ha mejorado la seguridad de Kumma, pero los expertos siguen pidiendo pruebas. Hasta que el juguete actualizado no se someta a pruebas independientes, las familias deben ser prudentes.

¿Crees que los juguetes de inteligencia artificial pueden llegar a ser totalmente seguros para los niños pequeños? Háznoslo saber escribiéndonos a Cyberguy.com

Suscríbete a mi Informe CyberGuy GRATUITO
Recibe mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas directamente en tu bandeja de entrada. Además, obtendrás acceso instantáneo a mi Guía Definitiva de Supervivencia a las Estafas, gratis al unirte a mi sitio web CYBERGUY.COM boletín 

Copyright 2025 CyberGuy.com. Todos los derechos reservados.