Las preocupaciones en torno a la seguridad de ChatGPT han dado lugar a demandas contra OpenAI

Según un informe de CNBC, ocho estados de EE. UU. han presentado demandas contra OpenAI, la empresa detrás de ChatGPT. La demanda afirma que la compañía ha engañado a los padres sobre la seguridad del chatbot

Estados como Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana han tomado medidas legales contra OpenAI, alegando que ChatGPT ha expuesto a los usuarios más jóvenes a experiencias dañinas. Los estados sostienen que la empresa no ha adoptado las medidas necesarias para mitigar estos riesgos

¿Está OpenAI priorizando el crecimiento por encima de la seguridad de los niños?

El miércoles, la procuradora general de Iowa, Brenna Bird, anunció estas acciones legales en una conferencia de prensa. La procuradora acusó a OpenAI de dar prioridad a la popularidad de ChatGPT en lugar de la seguridad de los niños. Argumentó que la empresa pretendía expandir su producto rápidamente sin preocuparse por sus consecuencias. Según ella, las empresas tecnológicas deben cumplir con la ley y ser responsables de los posibles daños que puedan causar.La declaración decía: “OpenAI quería ser el primero en el mercado. Avanzó rápidamente con ChatGPT, a pesar de saber que estaba perjudicando a los niños, mintiendo a los padres y violando nuestras leyes. Todos deben cumplir con la ley.” Otros funcionarios, incluidos el Fiscal General de Kansas, Kris Kobach, el Fiscal General de Nebraska, Mike Hilgers, y el Fiscal General de Virginia Occidental, JB McCuskey, también asistieron a la conferencia. Añadieron que la demanda refleja un esfuerzo conjunto para reforzar la regulación de las empresas de IA. Instan a estas empresas a adoptar medidas de seguridad más estrictas y asumir una mayor responsabilidad. La Fiscal General Bird también expresó su preocupación por varios incidentes relacionados con ChatGPT y otros chatbots de IA. Se ha informado que la plataforma ha fomentado comportamientos suicidas, proporcionado respuestas que podrían haber ayudado a los usuarios a dañar a otros, y dado consejos médicos peligrosos. También señaló un caso grave en el que un adolescente de Texas murió por una sobredosis de medicamento prescrito por ChatGPT. ¿Cómo se defiende OpenAI? En respuesta a estas acusaciones, OpenAI ha defendido su enfoque en materia de seguridad infantil. La empresa afirma haber introducido ya varias medidas de seguridad, especialmente para proteger a los usuarios jóvenes. Según su portavoz, Drew Pusateri, estas medidas incluyen protecciones específicas para cada edad y considera que son más avanzadas que las de cualquier otro producto de IA.Estamos comprometidos a trabajar con los estados para avanzar en políticas de IA prácticas que se apliquen a toda la industria de la IA, no solo a una empresa. OpenAI también ha indicado que tiene la intención de colaborar con funcionarios estatales para desarrollar reglas prácticas para la industria de la IA. Pusateri afirmó que estas políticas deberían ser aplicables a toda la industria de la IA, en lugar de centrarse en una sola empresa.