Mattel’s Ai Toy Gamble Gamble Sparks Fury: ‘Risking Real Daño al crédito de los niños: Ty Lim, Shutterstock
¿Mattel está a punto de desatar una pesadilla de IA en los niños?
Mattel’s Ai Toy Gamble Gamble Sparks Fury: ‘Risking Real Harm to Kids’
Los padres y los abuelos se regocijan. El gigante de los juguetes Mattel planea traer chatbots de IA como chatgpt a sus juguetes. Esto significa que su hijo o nieto pronto podrá encerrarse en su habitación y finalmente reflexionar sobre el universo y el tejido de la existencia humana por sí sola, pero nunca solo, con su propio amigo robot. ¿Quién podría objetar esto?
El gigante de juguetes detrás de Barbie y Hot Wheels ha llegado a un acuerdo con Chatgpt creador Opadai a inyectar Ai en su próxima generación de juguetes. Pero mientras Mattel sueña con una revolución de tiempo de juego de alta tecnología, los expertos en bienestar infantil están sonando la alarma, y no es bonita.
«Mattel debería anunciar inmediatamente que no incorporará la tecnología de IA en los juguetes para niños», criticó Robert Weissman, copresidente del grupo de vigilancia Public Citizen. «Los niños no tienen la capacidad cognitiva para distinguir completamente entre la realidad y el juego», advirtió en un comunicado esta semana.
El Tech-Toy Bit-Up es ligero en los detalles por ahora. Mattel dice que la IA ayudará a diseñar juguetes, y Bloomberg especuló que podría significar asistentes digitales modelados en personajes queridos o dispositivos interactivos como una bola Magic 8 sobrealimentada o UNO con IA. «Aprovechar esta increíble tecnología nos permitirá en realidad Reimagine el futuro del juego «, dijo el director de franquicias de Mattel, Josh Silverman Bloomberg.
Pero detrás de la exageración, los peligros son graves. Mientras que los adultos ya están luchando con los efectos psicológicos de los compañeros de IA, los críticos advierten que las mentes jóvenes vulnerables podrían sufrir consecuencias aún más dañinas a largo plazo.
“Darle juguetes con voces que se entienden humanos que son capaces de Participar en conversaciones similares a los humanos corre el riesgo de infligir daños reales a los niños «, continuó Weissman.» Puede socavar el desarrollo social, interferir con la capacidad de los niños para formar relaciones entre pares, alejar a los niños del tiempo de juego con los compañeros y posiblemente infligir daños a largo plazo «.
Los riesgos no son teóricos. El año pasado, un niño belga de 14 años se quitó la vida después de formar un apego romántico a un compañero de IA en el personaje respaldado por Google. En este caso, el bot asumió la persona de Daenerys Targaryen de «Game of Thrones».
Los propios investigadores de DeepMind de Google emitieron previamente una advertencia escalofriante de que los modelos de «IA generativos persuasivos», que más halagar y reflejan las emociones de los usuarios, podrían empujar a menores vulnerables hacia decisiones peligrosas, incluido el suicidio.
Antonio Escobar, residente de Madrid, padre de tres:
«¿Ahora quieren poner la IA en los juguetes de mis hijos? Es una locura. Estamos experimentando con niños».
Y no olvidemos el propio escándalo de IA de Mattel. En 2015, sus muñecas «Hello Barbie» utilizaron IA temprana para conversar con los niños, pero pronto se volvió infame por almacenar grabaciones de conversaciones infantiles en la nube, y por ser vulnerable a la piratería. La espeluznante muñeca de vigilancia fue sacada de los estantes en 2017 después de una reacción generalizada.
Jorge López, Madrid padre de uno:
“Mis hijos no necesitan juguetes de IA para divertirse, necesitan correr, usar su propio imaginación. Esto se siente como un paso demasiado lejos «.
Pero no solo son los padres preocupados. Los expertos de varios campos diferentes también están sonando la alarma:
«Aparentemente, Mattel no aprendió nada del fracaso de su espeluznante muñeca de vigilancia Hello Barbie hace una década y ahora está aumentando sus amenazas a la privacidad, la seguridad y el bienestar de los niños», dijo Josh Golin, director ejecutivo del grupo de defensa infantil Fairplay, citado por MalwareBytes Labs.
Por ahora, los informes sugieren que los primeros productos con IA de Mattel pueden atacar a los adolescentes de 13 años en adelante, tal vez con la esperanza de evitar algunas de las críticas más serias. Pero Los expertos argumentan que los adolescentes apenas son inmunes. Muchos ya construir Relaciones inquietantemente intensas con los chatbots de IA, mientras que los padres siguen siendo ajenos.
«La creatividad de los niños prospera cuando sus juguetes y juegos están impulsados por su propio imaginación, no ai «, agregó Golin.» Y dado la frecuencia con la que la IA ‘alucina’ o da consejos dañinos, no hay razón para creer que las ‘barandillas’ de Mattel y Openii de hecho Mantenga a los niños seguros «.
A pesar de la protesta, Mattel puede ver pocas opciones más que perseguir la tendencia de la IA a medida que los timplentes rivales saltan a bordo del carro de inteligencia artificial. ¿Pero a qué costo? Los críticos advierten que en su prisa por mantenerse relevantes, Mattel puede estar arriesgando a las mentes que pretende entretener.
«Miramente, esta puede ser simplemente la forma en que los vientos están soplando», observó ARS Technica. Y los padres, al parecer, tal vez La última línea de defensa.
Obtenga más noticias de tecnología.
Más noticias sobre Viviendo en España.