Etiquetas: modelos de lenguaje grande

Google Research presentó TurboQuant, un nuevo algoritmo de compresión diseñado para reducir drásticamente la huella de memoria de los modelos de lenguaje grande (LLM) mientras aumenta la velocidad de inferencia. Al dirigirse al caché de clave-valor, TurboQuant puede reducir el uso de memoria hasta seis veces y entregar mejoras de rendimiento de alrededor de ocho veces sin sacrificar la calidad del modelo. Leer más

El cofundador de Apple, Steve Wozniak, le dijo a Fox Business que no es un fanático de los sistemas de inteligencia artificial como ChatGPT y Claude. Argumentó que la inteligencia artificial carece de profundidad emocional, a menudo proporciona respuestas factuales demasiado detalladas en lugar de narrativas, y puede ser poco confiable. Los comentarios de Wozniak contrastan con el optimismo del CEO de Apple, Tim Cook, sobre la inteligencia artificial y llegan en un momento en que Apple impulsa su propia plataforma de inteligencia artificial, Apple Intelligence, a pesar de los desafíos de desarrollo. Leer más