Abierto AI anunciado Se dice que una nueva característica brinda protección adicional contra ataques de inyección rápida, donde las instrucciones maliciosas del chatbot se ocultan en páginas web y otras fuentes de contenido.
El modo de bloqueo deshabilitará la navegación web en vivo (por lo que solo podrá acceder al contenido almacenado en caché), la captura y visualización de imágenes de la web (aún puede generar imágenes), la investigación profunda y el modo agente, entre otras cosas.
La compañía dice que incluso con el modo de bloqueo habilitado, ChatGPT sigue siendo vulnerable a inyecciones rápidas, que pueden, por ejemplo, “aparecer en contenido web almacenado en caché o en archivos cargados, y aún pueden afectar el comportamiento o la precisión de las respuestas”.
Pero el objetivo es reducir la posibilidad de que se compartan datos confidenciales en el proceso.
“El modo de bloqueo es No está destinado a todos”, dijo OpenAI. “Está diseñado para personas y organizaciones que manejan datos confidenciales y desean una protección más estricta contra los riesgos de filtración de datos asociados con la inyección rápida”.
La compañía dice que actualmente está implementando el modo de bloqueo para cuentas comerciales de ChatGPT de autoservicio, así como para cuentas personales elegibles.
