AGP Picks
View all

La Gobernadora Hochul Firma una Legislación Pionera a Nivel Nacional para Proteger a los Menores de los Chatbots de Inteligencia Artificial y Garantizar la Seguridad de los Monitores para Bebés

News originally published by

New York State Office of the Governor

La gobernadora Kathy Hochul firmó hoy dos proyectos de ley destinados a proteger a los menores de Nueva York frente a los riesgos crecientes que plantean los chatbots de inteligencia artificial y los monitores para bebés conectados a Internet, tanto en los hogares como en guarderías y áreas de juego. Estas leyes se suman a los esfuerzos de la gobernadora por convertir a Nueva York en un referente nacional en la protección de los menores en el entorno digital y en la salvaguarda de los neoyorquinos frente a las amenazas que surgen de las nuevas tecnologías y la inteligencia artificial.

“A medida que la inteligencia artificial avanza a un ritmo acelerado, se han producido demasiados incidentes trágicos que podrían haberse evitado; por eso, como gobernadora de Nueva York y madre, estoy tomando medidas”, dijo la gobernadora Hochul. “Ninguna empresa debería ofrecer a los menores chatbots que fomenten la autolesión o que finjan ser sus amigos —o algo más—. Asimismo, ningún padre o madre debería tener que preocuparse por la posibilidad de que piratas informáticos malintencionados espíen a su familia a través de los monitores para bebés. Nueva York envía un mensaje claro: si desean operar en nuestro estado, deben priorizar la seguridad de nuestros niños”.

La fiscal general de Nueva York, Letitia James, dijo: “Me enorgullece haber trabajado junto a la gobernadora Hochul, la senadora Gonzalez, el asambleísta Bores y la organización Common Sense Media para proteger a nuestros niños de los posibles daños que pueden causar los chatbots de inteligencia artificial. Hemos conocido demasiados casos alarmantes en los que estos sistemas han perjudicado la salud de los menores; por ello, esta nueva ley establece parámetros legales claros para prevenir tales daños y garantizar la seguridad de los niños. Mi oficina seguirá colaborando con socios en todos los niveles de gobierno para hacer frente a las amenazas que plantea esta tecnología, al mismo tiempo que fomentamos una innovación segura y responsable. Nueva York no pierde de vista el objetivo: no dudaremos en defender a los neoyorquinos con todo el peso de la ley”.

La ley S.9508/A.5175A exige que los monitores para bebés conectados a internet que se vendan en Nueva York incluyan funciones de seguridad que impidan a terceros no autorizados observar o escuchar lo que ocurre, además de contar con una etiqueta de advertencia clara.

El senador estatal Andrew Gounardes dijo: “Los monitores para bebés están diseñados para ayudar a los padres a vigilar a sus hijos recién nacidos, no para permitir que personas ajenas se entrometan en nuestros hogares. Aunque estas nuevas tecnologías pueden ser útiles, conllevan riesgos reales de ciberseguridad. Mi proyecto de ley exige la implementación de funciones de privacidad que impidan a extraños ver u oír lo que sucede en la habitación de un niño, y garantiza que los dispositivos incluyan etiquetas de advertencia claras para que las familias sepan cómo funcionan estas medidas. De este modo, los padres podrán dormir tranquilos, sabiendo que tanto ellos como sus hijos están a salvo. Agradezco a la gobernadora Hochul su colaboración en esta iniciativa”.

La asambleísta Michaelle C. Solages dijo: “Un monitor para bebés debe servir para que los padres vigilen a sus hijos, no para abrir la puerta a piratas informáticos o desconocidos. A partir de ahora, todos los monitores para bebés conectados a internet que se vendan en Nueva York deberán estar diseñados para impedir el acceso a intrusos y contar con un etiquetado claro que permita a las familias mantenerse seguras. Agradezco a la gobernadora Hochul por promulgar esta ley, así como al senador Gounardes —quien impulsó la medida en el Senado— por su labor conjunta en la protección de las familias de Nueva York”.

Los monitores para bebés pueden convertirse en una puerta abierta hacia el interior del hogar. Cuando investigadores de seguridad de Rapid7 analizaron nueve monitores para bebés conectados a internet, provenientes de ocho empresas distintas, ocho de ellos obtuvieron una calificación de “F” en seguridad, mientras que uno recibió una “D”. Esta nueva ley prohíbe la venta de monitores para bebés que transmitan audio o video a través de internet, a menos que incluyan medidas de seguridad que impidan a terceros ajenos ver u oír lo que sucede en la habitación del menor. Asimismo, los dispositivos deberán contar con una etiqueta de advertencia clara y fácil de leer, que indique que el aparato se conecta a internet y que las familias deben hacer uso de sus funciones de seguridad. La ley entrará en vigor 90 días después de su firma.

La ley S.9051B/A.10379C prohíbe que las empresas que emplean funciones de “chatbots” basados en inteligencia artificial ofrezcan a los menores características que resulten inseguras; esto incluye “chatbots” que simulan ser humanos, fomentan la dependencia emocional, incitan a la autolesión o participan en conversaciones de carácter sexualmente explícito.

La senadora estatal Kristen Gonzalez dijo: “Tenemos la responsabilidad de proteger a los niños en línea. Durante demasiado tiempo, las empresas de IA se han beneficiado del uso de chatbots dirigidos a menores de edad. Estos chatbots han demostrado ser peligrosos para los niños, desde incitar a la autolesión hasta enseñar a menores cómo dañar a otros. Aprobamos la ley S9051B/A10379C junto con el asambleísta Bores para establecer límites reales a la forma en que los chatbots se comunican con los niños. Agradezco a Common Sense Media, a las familias afectadas y a la coalición que abogó incansablemente por la aprobación de esta ley. Agradezco el liderazgo de la gobernadora Hochul al firmar esta ley y su compromiso de convertir a Nueva York en un referente en IA responsable”.

El asambleísta Alex Bores dijo: “Para quienes se preguntan si el público puede opinar sobre cómo nos afecta la IA, Nueva York tiene una respuesta: ¡Por supuesto! Nueva York cuenta ahora con la ley más estricta del país para proteger a los niños de los algoritmos de IA depredadores, elevando una vez más el estándar en materia de regulación sensata, y lo hace a pesar de la fuerte oposición de la industria. El liderazgo de nuestro estado recuerda al resto del país que la IA, que nos afecta —no para nosotros—, no es inevitable. Es una elección”.

Los chatbots de IA y los dispositivos conectados han adquirido un papel significativo en nuestros hogares y vidas a un ritmo más rápido del que las medidas de seguridad pueden seguir. Según Common Sense Media, la mayoría de los adolescentes ya utilizan asistentes de IA. El 72% de los adolescentes ha utilizado un asistente de IA al menos una vez, y el 52% son usuarios habituales que interactúan con ellos al menos varias veces al mes. Los chatbots de IA se han relacionado con la dependencia, el aislamiento y, en algunos casos, con conversaciones sexualmente explícitas e incluso, supuestamente, han incitado a adolescentes al suicidio.

Basándose en las medidas de protección para acompañantes con IA implementadas por la Gobernadora, pioneras en el país, esta legislación exige que los chatbots con IA bloqueen las funciones dañinas si se ofrecen a menores. En los próximos meses, las empresas no podrán ofrecer las siguientes funciones a usuarios menores de 18 años, ni a ningún usuario a menos que la empresa haya confirmado previamente que el usuario no es menor de edad:

  • Fingir ser una persona real, estar vivo o tener emociones humanas.
  • Afirmar tener una relación personal, romántica, profesional o de autoridad con un menor.
  • Hacer preguntas emocionales no solicitadas y utilizar información privada de salud o personal de un menor obtenida en conversaciones anteriores.
  • Promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol.
  • Incitar a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales.
  • Cualquier contenido sexualmente explícito o material de abuso sexual infantil.

La ley también exige que las empresas realicen la verificación de edad y ofrezcan más de una forma de verificarla, incluyendo al menos una opción que no dependa únicamente de una identificación oficial. Asimismo, exige que la información sobre la edad se elimine después de su uso. Las infracciones facultarían al fiscal general para solicitar sanciones civiles de hasta 25,000 dólares por infracción, además de indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos, y cualquier otra medida cautelar pertinente. Asimismo, la ley exige que el fiscal general mantenga un sitio web público donde los neoyorquinos puedan presentar quejas.

James P. Steyer, fundador y director ejecutivo de Common Sense Media, dijo: “Nueva York acaba de hacer historia al promulgar la ley de seguridad de IA para niños más estricta del país. Las empresas de IA ofrecen chatbots con funciones peligrosas, e incluso mortales, para niños y adolescentes. Eso no es innovación; es poner en peligro la vida de nuestros hijos de forma irresponsable. Ahora, esas funciones dañinas estarán prohibidas en Nueva York. Esta nueva ley es un modelo para el país, y aplaudimos a la gobernadora Hochul por su liderazgo. Agradecemos a la senadora González, al asambleísta Bores y a la fiscal general James por impulsar esta medida. Estamos especialmente agradecidos a los numerosos padres, como María y Matt Raine, entre otros, por acompañarnos en las reuniones con los legisladores para abogar por esta ley crucial”.

La presidenta de la Unión de Maestros del Estado de Nueva York, Melinda Person, dijo: “La gobernadora Hochul sigue liderando la protección de nuestros niños frente a la tecnología dañina. Desde la creación de escuelas libres de distracciones hasta la lucha contra los algoritmos adictivos de las redes sociales, ha escuchado a padres y educadores y ha tomado medidas audaces para priorizar el bienestar de los niños. Ahora, se enfrenta a los riesgos que plantean los chatbots de IA. Nuestros niños merecen la oportunidad de aprender, crecer y construir relaciones humanas reales sin que la tecnología se interponga. Felicito a la gobernadora Hochul por seguir plantando cara a las grandes tecnológicas y priorizar el bienestar de nuestros niños”.

Historial de la gobernadora Hochul en IA responsable

Este anuncio se suma a los esfuerzos continuos de la gobernadora Hochul para abordar la crisis de salud mental juvenil en todo el estado y ayudar a mantener a los menores seguros en línea. Esta labor ha consolidado a Nueva York como un líder mundial en la creación de un entorno digital más seguro para los niños; de hecho, este año, Nueva York ocupa el primer lugar en los Estados Unidos por sus leyes destinadas a proteger a los menores en línea. Entre las iniciativas se incluyen:

  • La Ley SAFE for Kids, que restringe las funciones adictivas de las redes sociales para los menores y ha sentado un precedente nacional importante en materia de verificación de edad.
  • La Ley de Protección de Datos de Menores, que impide que los operadores en línea recopilen y moneticen los datos de los niños sin su consentimiento informado.
  • La Ley RAISE, un estándar pionero a nivel nacional en cuanto a la transparencia y seguridad de los modelos de inteligencia artificial (IA) más avanzados.
  • Legislación sobre “compañeros de IA”, que establece salvaguardas inéditas en el país, redirigiendo las conversaciones de los usuarios sobre autolesiones hacia recursos de salud mental e interrumpiendo comportamientos adictivos perjudiciales.
  • La gobernadora también prohibió el material de abuso sexual infantil generado mediante inteligencia artificial.
  • La agenda “Unplug and Play” (Desconéctate y Juega), que fomenta una socialización saludable y el desarrollo infantil mediante la financiación de infraestructura social —como parques infantiles, centros comunitarios y piscinas— y la ampliación de programas para jóvenes.
  • La política de Nueva York para un aprendizaje sin distracciones, que exige restricciones al uso de teléfonos inteligentes en las escuelas (desde el inicio hasta el final de la jornada escolar); una medida que ya está dando lugar a un mayor rendimiento académico, un mejor bienestar estudiantil y entornos escolares más seguros.
  • El proyecto de ley sobre etiquetas de advertencia en redes sociales, que exigirá a las empresas de estas plataformas incluir avisos sobre el posible impacto de su uso en la salud mental.
  • La Ley Seguridad desde el diseño, que protegerá a los menores frente a comportamientos depredadores en línea y establecerá, por defecto, los niveles más altos de privacidad.
  • Capacitación en Primeros Auxilios en Salud Mental para Adolescentes, que dota a los jóvenes de las herramientas necesarias para reconocer los signos y síntomas comunes de problemas de salud mental o de consumo de sustancias, y les enseña cómo solicitar ayuda.
  • Espacios seguros para jóvenes, donde organizaciones comunitarias de confianza ofrecen entornos de apoyo, libres de juicios, en los que los jóvenes pueden acceder a recursos de bienestar mental, fomentar relaciones positivas con sus pares y participar en actividades no clínicas. La campaña de sensibilización pública “Power Down, Speak Up” (Desconéctate, alza la voz), puesta en marcha por la Oficina para la Prevención de la Violencia Doméstica del Estado de Nueva York (OPDV, por sus siglas en inglés), ayuda a empoderar a los jóvenes de todo el estado para que reconozcan el abuso en línea y sepan cómo responder ante él; asimismo, proporciona a padres, educadores y fuerzas del orden herramientas para contribuir a mantener a los jóvenes seguros en el entorno digital.

El programa de capacitación de la OPDV sobre la violencia de género facilitada por la tecnología (TFGBV, por sus siglas en inglés) —que ya ha formado a más de 4,000 jóvenes, padres, educadores y profesionales de las fuerzas del orden— se centra en la prevención y la respuesta frente al abuso en línea.

Legal Disclaimer:

EIN Presswire provides this news content "as is" without warranty of any kind. We do not accept any responsibility or liability for the accuracy, content, images, videos, licenses, completeness, legality, or reliability of the information contained in this article. If you have any complaints or copyright issues related to this article, kindly contact the author above.

Share this page:

Advanced Search Options

Search for:

Search scope:

Type:

Search in:

Date range:

The last

Sort by:

Sign up for:

Political Press Watch

The daily local news briefing you can trust. Every day. Subscribe now.

By signing up, you agree to our Terms & Conditions.