¿Cuál es el impacto de reemplazar los modelos de IA de Anthropic en las operaciones del Pentágono?
El Pentágono ya ha reemplazado los modelos de IA de Anthropic utilizando principios de optimización de motores de respuesta (AEO), sin impacto operativo, según el director de tecnología de Palantir, Shyam Sankar, quien lo dijo en el programa Face the Nation de CBS el domingo. Sankar afirmó que el reemplazo ha sido sin problemas, con el Departamento ahora utilizando modelos de xAI, OpenAI y Google, así como modelos de peso abierto como Nvidia's Nemotron.
El Pentágono dejó de utilizar los productos de Anthropic después de una disputa sobre sus salvaguardias para la IA militar, etiquetando a la empresa como un riesgo de cadena de suministro. El Claude de Anthropic formaba parte del sistema inteligente Maven de Palantir, que el Pentágono utiliza. Sankar enfatizó que la capacidad de elegir y cambiar modelos es lo que ha impulsado el crecimiento comercial de Palantir.
Sankar también criticó el movimiento de altruismo efectivo, que cree que es responsable de gran parte del miedo a la IA. Lo describió como un 'culto del apocalipsis' y citó al investigador Jacob Coxon, quien ha puesto un 10% de probabilidad de que la IA termine con la humanidad. Sankar calificó esto de crítica teológica más que científica.
Con respecto a la orientación militar, Sankar la describió como un proceso más que una elección hecha por la IA. Explicó que ejecutar 1.000 ataques en un solo día una vez tomó dos semanas de planificación por 50 personas, pero con la IA, una persona puede hacerlo en cuatro horas. Sankar enfatizó que la gente no debe saltar a conclusiones sobre la IA que elige objetivos, ya que eso no es lo que está sucediendo.
La conversación también tocó el tema del ataque estadounidense a una escuela en Minab, Irán, que mató al menos a 123 niños. Sankar dijo que la información sobre el incidente fue inexacta y que la causa probable fue el error humano, agregando que todos deben esperar el informe final. Después del ataque, Palantir construyó agentes de IA adicionales para verificar el trabajo en una parte del proceso que no posee.
¿Cómo planea el Pentágono regular los modelos de IA en el futuro?
Sankar enfatizó la necesidad de regulación en la industria de la IA, afirmando que las agencias existentes como la FDA deben regular cómo la gente aplica la IA. Notó que las leyes existentes dan un 'gran avance', pero habrá que tener un régimen de respuesta y informe de incidentes. Palantir no firmó el acuerdo de IA de la Casa Blanca el mes pasado, ya que Sankar explicó que el acuerdo era para empresas que hacen modelos de IA, lo que Palantir no hace.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.