El Tribunal Regional de Múnich emitió un fallo preliminar que hace responsable a Google por las declaraciones falsas generadas por su función de resúmenes de inteligencia artificial, una decisión que podría cambiar el panorama legal para los motores de búsqueda y las herramientas de inteligencia artificial generativa a nivel global.
La disputa se originó cuando dos editores alemanes descubrieron que los resúmenes generados por inteligencia artificial en la búsqueda de Google los vinculaban a presuntos estafas, esquemas fraudulentos y fraudes de suscripción - afirmaciones que no tenían base en el material de origen. Después de enviar una carta de cesación y desistimiento a la empresa de tecnología, los editores demandaron, argumentando que los resúmenes impulsados por la inteligencia artificial creaban nuevo contenido difamatorio.
Google respondió que su función de resúmenes de inteligencia artificial incluye un aviso que advierte a los usuarios que la información puede contener errores y debe ser verificada de forma independiente. La empresa mantuvo que, al igual que los resultados de búsqueda tradicionales, la herramienta simplemente agrega contenido web existente.
El juez Thomas M. Schmitt, al escribir para el tribunal, rechazó ese argumento. Observó que el sistema de inteligencia artificial combinaba datos sobre otras empresas señaladas por actividades ilícitas con la información de los demandantes, produciendo declaraciones que nunca aparecieron en ninguna fuente enlazada. El tribunal describió la salida como "declaraciones independientes, nuevas y sustanciales", distinguiéndolas de una simple lista de enlaces. Dado que Google diseña, entrena, opera y gestiona la inteligencia artificial, los jueces concluyeron que la empresa debe asumir la responsabilidad por cualquier daño causado por esas declaraciones.
Al rechazar la doctrina tradicional de refugio seguro que protege a los motores de búsqueda cuando simplemente facilitan el acceso a contenido de terceros, el fallo establece una línea entre la indexación convencional y la inteligencia artificial generativa. Los jueces enfatizaron que un aviso no absuelve a una empresa de responsabilidad; de lo contrario, las víctimas de declaraciones falsas no tendrían recurso, ya que las fuentes originales nunca hicieron las afirmaciones alegadas.
Como precaución, el tribunal ordenó a Google que elimine una gran parte de las declaraciones difamatorias identificadas en el caso y que cubra el 80 por ciento de los costos legales incurridos por los demandantes. Un portavoz de Google, citado por Ars Technica, indicó que la empresa planea revisar la decisión y puede apelar, enfatizando su inversión en la calidad y precisión de los resúmenes de inteligencia artificial.
La decisión llega en un momento en que otros proveedores de inteligencia artificial - como OpenAI, Anthropic y Perplexity AI - también advierten a los usuarios que sus sistemas pueden producir información inexacta o engañosa. Sin embargo, el tribunal alemán sugiere que tales advertencias son insuficientes para proteger a los desarrolladores de la responsabilidad cuando la inteligencia artificial crea declaraciones nuevas que no están directamente vinculadas a la web.
Los expertos legales predicen que el fallo podría llevar a las empresas de tecnología a rediseñar las herramientas de resumen de inteligencia artificial, implementar procesos de verificación más estrictos o enfrentar demandas similares en otras jurisdicciones. Si se mantiene en apelación, el precedente puede influir en cómo los tribunales de todo el mundo evalúan las responsabilidades de las empresas que incorporan inteligencia artificial generativa en plataformas de cara al público.
En general, el caso subraya el creciente escrutinio del papel de la inteligencia artificial en la configuración de la información pública y señala un cambio hacia la responsabilidad directa de los gigantes tecnológicos por el contenido que producen sus algoritmos.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.