Anthropic recientemente descontinuó dos de sus modelos de IA más nuevos debido a órdenes de control de exportaciones de la administración Trump, lo que generó un debate generalizado sobre la política de IA y la soberanía digital.
En el último episodio del podcast Equity de TechCrunch, Sean O’Kane, Rebecca Bellan y yo analizamos qué es lo que realmente impulsa la acción del gobierno contra Anthropic y qué impacto tendrá en el ecosistema de IA más amplio.
Como dice Sean, “Anthropic no ha tenido la mejor relación con la administración Trump en comparación con otros laboratorios líderes de IA”, por lo que quizás los demás competidores de Anthropic no tengan que preocuparse por una represión similar.
Pero Rebecca también señaló que los principales expertos en ciberseguridad han “firmado una carta abierta pidiendo a Trump que rescinda la orden, y dicen que sería extremadamente peligroso retirar estas capacidades avanzadas de ciberseguridad a los defensores de la red en los EE. UU.”.
Y nos preguntamos si todo esto podría ser una buena publicidad para Anthropic, especialmente porque, en palabras de Rebecca, “todo el mundo ama a un chico malo”.
Continúe leyendo para obtener una vista previa de nuestra conversación, editada para mayor extensión y claridad.
Rebeca Bellan: Como estoy seguro, como muchos de nuestros oyentes saben, el gobierno de EE. UU. básicamente obligó a Anthropic a descontinuar sus dos modelos más nuevos: el Fable 5, y luego también está el Mythos 5, que está disponible para los usuarios actuales de Mythos, (mientras que) el Fable 5 está más disponible para el público en general.
Enviaron una carta (entonces) el viernes citando “preocupaciones de seguridad nacional”. Nadie sabe cuáles son sus preocupaciones. El informe no ha sido publicado, no dieron detalles y le dijeron a (Anthropic) que tenían que asegurarse de que el modelo no pudiera ser utilizado por extranjeros. Entonces Anthropic dijo: “Está bien, supongo que tenemos que sacar todo el modelo, porque no sabemos si alguien es extranjero. Muchos de nuestros empleados son extranjeros”.
Pero en realidad (dicen los informes) la Casa Blanca se enteró de esto porque algunos investigadores de Amazon supuestamente encontraron una manera de sortear las barreras de seguridad de Fable 5. El director ejecutivo de Amazon, Andy Jassy, llevó estas preocupaciones a la Casa Blanca y partió de allí.
Sean O’Kane: Todo esto avanza muy rápido, especialmente desde los viernes por la tarde hasta el fin de semana. Y al mismo tiempo, el gobierno de Estados Unidos aparentemente está tratando de negociar algún tipo de acuerdo para la guerra que comenzó en Irán.
Rebeca: Viernes por la noche para nosotros en Nueva York. Les gustan las distracciones.
sean: Retrocedamos por un momento. Anthropic no ha tenido la mejor relación con la administración Trump de una manera diferente a la de otros laboratorios líderes de IA; creo que hay al menos un elemento en juego aquí.
Entonces, ¿crees que esto afectará a otras empresas? ¿Cree que la administración Trump se inclinará a bloquear el acceso a alguno de estos competidores?
Antonio Ha: El contexto aquí es que los informes y análisis de expertos en seguridad independientes indican que los riesgos de seguridad reales de Anthropic no son únicos. Entonces, mucho de esto parece deberse a que la administración Trump y Anthropic no se llevan muy bien. Cualquiera que sea el riesgo, las cosas se desproporcionarán simplemente porque no parece que puedan hacerse llamadas telefónicas civiles entre sí.
Si fuera otra empresa, en cierto modo, tal vez eso le beneficie, porque podrá decir: “No vamos a permitir que esta gente se enoje con nosotros y podemos hacer lo que queramos”. Pero tampoco es un buen entorno regulatorio simplemente (decir): “Espero que no se enojen con nosotros”.
Rebeca: Por un lado, esto es claramente una represalia: después de que la administración calificara a Anthropic como un riesgo para la cadena de suministro, hubo demandas importantes entre ellos, parecía que la Casa Blanca solo estaba buscando una excusa para atacar a Anthropic. Y me siento así no sólo por mi reacción inicial, sino también por lo que dicen muchos investigadores de ciberseguridad. Dijeron que esto no debería desencadenar controles de exportación (órdenes). Todos firmaron una carta abierta pidiendo a Trump que revoque la orden y dicen que sería peligroso retirar estas capacidades avanzadas de ciberseguridad a los defensores de la red en Estados Unidos. La propia Anthropic dice que algunos de los mismos jailbreak se pueden encontrar en varios otros modelos de IA.
Cínicamente, es como: OK, ¿estás simplemente pausando a Anthropic para que otras personas puedan aprender sobre la existencia de Anthropic?
Pero al mismo tiempo, también veo reacciones que (por ejemplo): Anthropic parece estar sucediendo pronto. Dijeron: “Esto es demasiado peligroso para que cualquiera lo use, pero nosotros no, somos los buenos”. Hablan con ambos lados de la boca. Una semana antes de que saliera Fable, dijeron: “Oigan, tenemos que ralentizar la IA, muchachos. Esto se está volviendo realmente peligroso”. Pero entonces hubo una explosión: “Aquí viene nuestro modelo más loco y poderoso, explota”.
antónimo: En cierto modo, esto parece un microcosmos de muchas de las discusiones sobre la IA, donde personas como Sam Altman y Jensen Huang (dicen): “Oye, intentemos bajar la temperatura. ¿Por qué están todos enojados con nosotros?” Bueno, usted ha pasado los últimos años básicamente diciendo que ha construido la máquina de Dios que le quitará puestos de trabajo a todos. No es de extrañar que la gente no esté contenta con esto.
Y hay algo en la forma en que Anthropic habla sobre los Mitos en particular, cuando dice: “Este es el modelo más increíblemente poderoso jamás creado, es demasiado peligroso para revelarlo al público”. Y en algún nivel, (dices): “Bueno, digamos que lo estamos tomando en serio. Eso significa que habrá un escrutinio muy detenido de esto”.
Y me pregunto: parece que Anthropic no está contento con esto. Quiero tener cuidado de no exagerar cómo esto les beneficiará. Pero también publicamos algunas historias sobre el análisis de Ramp para resaltar el hecho de que la última gran disputa entre Anthropic y la administración Trump fue buena para la compañía, al menos en algunos aspectos. Las descargas de Claude se dispararon. Creo que mucha gente podría confundir ChatGPT con Eso robot de chat, Eso El anterior asistente de IA, de repente miró a Claude como quizás más responsable, más “resistente”.
Y de la misma manera, (aunque) Anthropic pone mucho énfasis en esto, puede volver a hacer que sus modelos parezcan más fuertes.
Rebeca: Por supuesto. “Somos muy peligrosos”. Todo el mundo ama a los chicos malos, ¿verdad? Todos decían: “Este es el modelo más poderoso, incluso Trump lo dijo. Por supuesto, tengo que probarlo”.
Cuando compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta nuestra independencia editorial.
