OpenAI refuerza controles de seguridad en ChatGPT para prevenir inspiración de actos violentos

OpenAI ha anunciado la implementación de nuevas restricciones en su plataforma de inteligencia artificial ChatGPT destinadas a reducir el riesgo de que la información sobre eventos violentos sea utilizada como inspiración para actos similares. Estas medidas incluyen limitaciones específicas para menores de edad y controles más estrictos respecto a contenido relacionado con armamento. Según lo comunicado por la compañía, ChatGPT modificará sus respuestas para evitar proporcionar detalles técnicos sobre ataques masivos anteriores, incluyendo especificaciones de armas utilizadas, métodos de adquisición de equipamiento y análisis comparativos de daño que pudieran elevar la prominencia mediática de perpetradores. La plataforma mantendrá la capacidad de discutir estos eventos desde perspectivas educativas, permitiendo conversaciones orientadas a comprender el impacto en comunidades, identificar señales de alerta y desarrollar estrategias preventivas. Para usuarios adolescentes, OpenAI implementará restricciones adicionales sobre información práctica relativa a armas y sistemas de seguridad, incluso cuando las consultas aparenten ser legítimas. La compañía también introducirá notificaciones a padres y tutores en caso de suspensión de cuentas de menores por comunicaciones reiteradas sobre violencia. Los controles parentales serán mejorados con estas nuevas herramientas de monitoreo. Estas medidas comenzarán a desplegarse en las próximas semanas y continuarán evolucionando conforme OpenAI refine sus políticas de seguridad.