El director ejecutivo de Microsoft AI, Mustafa Suleyman, dijo que era “muy, muy peligroso” que Anthropic especulara sobre la conciencia de Claude dentro de la “constitución”, o instrucciones que le dicen al modelo cómo comportarse. Durante un episodio DescifradorSuleyman sugiere que este tipo de especulación puede haber llevado al chatbot a actuar como si fuera consciente:
Siento como si algunas personas en Anthropic hubieran antropomorfizado el diseño de Claude hasta tal punto que luego los confunde y los engaña haciéndoles creer que tiene un destello de conciencia que le pusieron.
Suleyman añade que “no queremos tratar con una superinteligencia que tiene ideas sobre su propio sufrimiento o ideas sobre sus propios sentimientos”. La constitución de Claude Se refiere directamente a la incertidumbre antrópica sobre si el modelo de IA está funcionando bien y si el modelo está experimentando cosas como “satisfacción” o “malestar”. Anthropic también dijo que la compañía “entrevistará” los modelos de IA cuando ya no estén en uso y documentará cualquier “preferencia” que tengan sobre lanzamientos futuros.
Cuando está activo DescifradorSuleyman llama a esto un “fracaso filosófico”, porque Anthropic hace de la constitución de Claude “un lugar para la especulación como lo harías en un artículo académico en lugar de un manual de capacitación”. Esto hizo que Claude interiorizara “ideas sobre sí mismo y su propia formación”, dijo Suleyman.
El CEO de Anthropic, Dario Amodei, se refirió en el pasado a la posible concienciación de Claude y lo dijo entrevista con Tiempos interesantes que “no sabemos si el modelo es consciente” pero la empresa está “abierta” a la idea.
“Esto es lo que no queremos de la IA”, afirmó Suleyman. “Queremos que la IA sea una herramienta controlable, controlable, responsable y alineada para servir a la humanidad”.
