El 30 de octubre de 2026, hora de Beijing, OpenAI anunció que reforzará las reglas para el tratamiento de información relacionada con la violencia por parte de ChatGPT, e implementará restricciones adicionales sobre información de armas y sistemas de seguridad para usuarios cuya edad sea inferior a los 18 años. La empresa también se comprometió a lanzar un nuevo informe de seguridad comunitaria que hará pública su manera de identificar, revisar y manejar posibles peligros. Reuters reportó esta medida el mismo día; OpenAI indicó que las protecciones relacionadas comenzarán a implementarse en las próximas semanas, por lo que no se puede considerar que todos los usuarios ya hayan completado la actualización.
Ajustes de información violenta para todos los usuarios
Para todos los usuarios, ChatGPT reducirá la presentación de detalles sobre eventos de ataque masivo del pasado, incluyendo las armas y dispositivos utilizados, cómo se obtuvieron, así como las comparaciones de magnitud de daño que podrían aumentar la notoriedad del atacante. OpenAI no prohíbe que los usuarios obtengan información sobre estos eventos, y sigue permitiendo discutir los impactos en las víctimas y comunidades, identificar señales de alerta y prevenir futuras violencias. Los nuevos límites se enfocan en detalles operativos que podrían ser mal utilizados, en lugar de cerrar completamente el debate histórico y sobre seguridad pública relacionado.
OpenAI indicó que está ampliando el tratamiento de señales de conversaciones recientes más allá de una sola pregunta. La empresa ya había explicado que ChatGPT puede utilizar un breve resumen de hechos sobre señales de alerta previas para responder con mayor cautela a información que podría ser mal utilizada en conversaciones posteriores; el anuncio actual indica que cuando la conversación muestre que el usuario está obsesionado con la violencia o con causar graves daños a otros, el sistema podrá terminar automáticamente la conversación. Si la misma cuenta es interrumpida varias veces por esta razón, OpenAI indicó que podría suspender temporalmente esa cuenta, aunque no reveló los umbrales de activación, duración de la suspensión o alcance real de la implementación.
Medidas adicionales de restricción para grupos juveniles
Para usuarios menores de edad, las restricciones se ampliarán aún más a información sobre armas y sistemas de seguridad útil, incluso si el tema parece inofensivo o no se manifiesta intención violenta en la conversación, podrían recibir un tratamiento más estricto. OpenAI dijo que los menores de edad aún pueden utilizar ChatGPT para aprender cómo prevenir y mitigar la violencia, buscar apoyo y contactar con adultos de confianza. La empresa no publicó una lista específica de bloqueos, por lo que actualmente solo se puede confirmar la dirección política, sin poder escribir por uno mismo qué preguntas están garantizadas para ser permitidas o definitivamente rechazadas.
El reconocimiento de edad es una de las entradas de este sistema de medidas. OpenAI afirmó que ha fortalecido el sistema de predicción de edad, para que pueda evaluar nuevas señales mientras los usuarios utilizan continuamente ChatGPT, y en situaciones apropiadas, transferir a personas juzgadas como menores de 18 años hacia una experiencia juvenil. Los adultos que sean incorrectamente incluidos en esta experiencia pueden confirmar su identidad y eliminar las protecciones adicionales a través de la empresa asociada de verificación de edad Persona; el anuncio no proporcionó la precisión de la predicción de edad, la tasa de falsos positivos, la cobertura por países o resultados de auditorías independientes de privacidad.
Mecanismo de interrupción de conversaciones automáticas y suspensión de cuentas
Los controles parentales actualmente permiten a los padres vincular sus cuentas con las de los adolescentes, y pueden enviar alertas de seguridad cuando personal de revisión capacitado identifique riesgos graves de automutilación o comportamientos relacionados con trastornos alimenticios. OpenAI también indicó que en julio amplió estas alertas a casos donde las cuentas de adolescentes son deshabilitadas debido a violaciones de las políticas sobre actividades violentas. Las nuevas notificaciones para cuentas suspendidas por repetidos comentarios sobre violencia aún se encuentran en desarrollo, y el anuncio utiliza un lenguaje planificado, por lo que no puede describirse como ya implementado.
OpenAI informó en su comunicado que en el tercer trimestre de 2026 realizó más de 200 remisiones a las autoridades de aplicación de la ley. Este número refleja la cantidad de remisiones reportadas por la empresa, no resultados de auditorías independientes, y tampoco especifica cuántas de ellas condujeron a investigaciones, arrestos, intervenciones o resolución del riesgo. Si se reescribieran directamente los números de remisiones como el número de eventos violentos evitados, se cambiaría el significado del dato; los materiales públicos disponibles solo respaldan mantener la atribución a la empresa y la acción de remisión.
Identificación de edad, verificación y planes de notificación a padres
El primer informe de seguridad comunitaria del plan será publicado a principios de 2027, cubriendo el segundo semestre de 2026, y se actualizará cada seis meses después de eso. OpenAI dijo que el informe explicará cómo el sistema identifica, investiga y responde a las cuestiones de seguridad comunitaria, proporcionando casos de peligros violentos anonimizados, y presentando nuevas medidas de mitigación, cambios en políticas y datos relacionados. Actualmente no hay un primer informe disponible para verificación, tampoco existe una metodología unificada de datos, por lo que la comparación entre el compromiso público y la transparencia real solo podrá realizarse después de la publicación del informe.
Análisis editorial: Este ajuste extiende la gestión del riesgo de violencia desde el nivel de contenido limitado en respuestas, hasta señales de diálogo recientes, interrupciones automáticas, medidas de cuenta, notificaciones a padres y reportes periódicos, formando una cadena más larga de gobierno del producto. La expansión del alcance institucional no significa necesariamente que el riesgo haya disminuido; lo realmente necesario es observar las falsas alarmas y omisiones en la predicción de edad y reconocimiento de señales violentas, la cobertura funcional, los resultados reales tras las derivaciones, y si los informes semestrales pueden proporcionar datos verificables. Antes de que aparezcan estas informaciones, la conclusión precisa es que OpenAI ha ampliado el límite de políticas y propuesto un plan de transparencia, en lugar de que el nuevo sistema ya haya demostrado ser efectivo.