tribunal local en Alemania ha emitido una decisión que podría cambiar la forma en que funcionan los motores de búsqueda y los chatbots basados en inteligencia artificial en todo el mundo. El Tribunal Regional de Múnich dictaminó inicialmente que Google era responsable de una serie de declaraciones falsas generadas por su función AI Overview, lo que obligaba a la empresa a evitar la difusión de afirmaciones falsas o inexactas a través de su motor de búsqueda.
La decisión partió de un caso anterior. reportado por Decoder, en el que dos editores descubrieron que los resúmenes generados por la IA de Google los vinculaban, en ciertas búsquedas, con prácticas comerciales cuestionables, fraude y fraude de suscripciones, sin ninguna base para hacerlo.
A principios de este año, las empresas afectadas enviaron cartas de cese y desistimiento al gigante tecnológico, según el informe. Google negó toda responsabilidad, argumentando que su función de resumen automático advertía a los usuarios que la información puede contener errores y debía ser verificada de forma independiente.
El análisis del tribunal concluyó que la IA de Google combinaba información relacionada con otras empresas que habían sido señaladas por posibles prácticas ilícitas con datos de los demandantes, lo que dio lugar a asociaciones que no aparecían en ninguna de las fuentes vinculadas por el motor de búsqueda.
Las autoridades descubrieron que, a diferencia de los motores de búsqueda tradicionales, que simplemente muestran una lista de enlaces con declaraciones hechas por terceros, las herramientas de Google generan “declaraciones independientes, novedosas y sustanciales” basadas en interpretaciones erróneas de la información disponible en Internet.
Según el tribunal, corregir información incorrecta no es responsabilidad de terceros. Google es la única entidad que tiene la capacidad de modificar la tecnología subyacente a los resúmenes generados por IA y, por lo tanto, “debería rendir cuentas”. Además, el tribunal consideró que la línea de defensa de Google carecía de fundamento, porque el resumen impugnado “contenía declaraciones que no aparecían en absoluto en los resultados de búsqueda.
Nuevas (y poderosas) interpretaciones de la IA en la Web
La interpretación que haga el tribunal del papel de AI en la entrega de resultados de búsqueda podría convertir este caso en un precedente histórico. Descubrieron que las grandes empresas de tecnología eran responsables de influir en los desarrollos más avanzados en plataformas ampliamente utilizadas.
Hasta ahora, en la mayoría de ordenamientos jurídicos, los buscadores eran considerados herramientas que simplemente facilitaban el acceso a contenidos creados por terceros y disponibles en la web. Este estatus les proporciona un cierto nivel de protección cuando la información publicada es falsa, inexacta, engañosa o incluso difamatoria.
Sin embargo, un tribunal alemán afirmó que esta protección ya no se aplica cuando los motores de búsqueda utilizan sistemas de IA generativa. Según el razonamiento, esta tecnología es capaz de generar reclamos inexistentes basados en diversas fuentes y en consecuencia, las empresas responsables de operarla deben ser responsabilizadas por el contenido producido.
Los jueces también concluyeron que, aunque Google anima a los usuarios a verificar la información debido al potencial de alucinaciones inherentes a los modelos de IA, esta advertencia no exime de responsabilidad a los distribuidores de contenidos. De lo contrario, argumentan, las víctimas de declaraciones falsas quedarán impotentes, porque la fuente original nunca hizo las declaraciones y, por lo tanto, no pueden ser objeto de acciones legales.
Asimismo, el tribunal dictaminó que los resultados producidos por los sistemas de IA no pueden protegerse bajo los principios de libertad de expresión, porque son producto de algoritmos diseñados, entrenados y mantenidos por empresas, y no la expresión de la opinión de un individuo.
Como medida cautelar para evitar una posible repetición, el fallo obliga a Google a eliminar la mayoría de las declaraciones consideradas difamatorias en el caso, y a cubrir el 80 por ciento de las costas judiciales derivadas del proceso.
Un portavoz de la empresa, citado por Ars Technica, sugirió que la decisión podría ser apelada. “Hemos invertido profundamente en la calidad de AI Overview para garantizar que la mayoría de las respuestas proporcionen información precisa y estén diseñadas para reflejar la información que existe en la web”, dice el comunicado. “Estamos revisando cuidadosamente esta decisión, que no es definitiva”.
