IA al Día - 26 nov. 2023
Bienvenidos a esta edición semanal de IA al Día, donde comentaré los últimos acontecimientos del mundo de la inteligencia artificial. En este número aprenderemos sobre los importantes cambios de liderazgo en OpenAI, las herramientas que permiten a cualquiera generar código a partir de bocetos, cómo el uso de la IA puede ayudar a detectar el Alzheimer y avances en los pronósticos meteorológicos de DeepMind. ¡Vamos allá!
Esta newsletter también está disponible en inglés y catalán.
Cambios dramáticos de liderazgo en OpenAI plantean preguntas sobre la seguridad de la IA
OpenAI, el laboratorio de IA sin fines de lucro detrás del chatbot ChatGPT, ha experimentado grandes cambios de liderazgo en los últimos días. El CEO Sam Altman fue abruptamente despedido por la junta directiva el 17 de noviembre, con la renuncia inmediata del presidente Greg Brockman. Como se describe este artículo, la sacudida sorprendió al mundo tecnológico y llevó a la mayoría del personal de OpenAI a amenazar con renunciar.
Muchos observadores creen que las preocupaciones de seguridad sobre los poderosos modelos de IA de OpenAI jugaron un papel clave. Como explica Tomas Pueyo en sus artículos (link1 y link2), OpenAI se fundó específicamente para garantizar que la IA avanzada beneficie a la humanidad. Sin embargo, hubo tensiones reportadas entre Altman y la junta sobre el ritmo de comercialización versus investigar riesgos potenciales.
Después de unos días turbulentos, Altman y la junta llegaron a un acuerdo para que regrese como CEO. Pero el drama ha alimentado el debate sobre el equilibrio entre la innovación rápida en IA y la contención de capacidades potencialmente peligrosas. A medida que la IA progresa hacia la inteligencia humana, permanecen sin resolver difíciles preguntas sobre ética, prioridades y control.
Bard ahora puede responder preguntas sobre videos de YouTube
Google ha anunciado una actualización de su chatbot de IA Bard que le permite entender y responder preguntas específicas sobre videos de YouTube. Por ejemplo, si le preguntas al chatbot cuántos huevos se utilizan en una receta que se muestra en un video, puede analizar las imágenes y proporcionar una respuesta.
Se lanza Claude 2.1 con una ventana de contexto de 200K y tasas de alucinación reducidas
La empresa de IA Anthropic lanzó Claude 2.1, su último modelo conversacional de IA. Claude 2.1 duplica la cantidad de contexto que puede procesar a 200,000 tokens, permitiéndole resumir documentos largos y complejos como informes financieros y literatura. También reduce las declaraciones falsas en 2 veces en comparación con la versión anterior. Según Anthropic, Claude 2.1 muestra mejoras significativas en comprensión y honestidad.
Tldraw y GPT-4V permiten a cualquiera esbozar una interfaz de usuario web y generar código funcional
El equipo de tldraw lanzó MakeReal, lo que permite a cualquier persona con una clave de API de OpenAI esbozar una interfaz de usuario web en su lienzo infinito y usar GPT-4V para generar código HTML/CSS funcional a partir del dibujo. Como describen en su reciente publicación en el blog, esta herramienta permite la visualización rápida e iteración de prototipos de sitios web directamente en el lienzo a través de conversaciones con la IA. El equipo de tldraw cree que esta tecnología apenas rasca la superficie de lo que es posible y espera que los usuarios construyan sus propios experimentos creativos.
DeepMind presenta Lyria, su generador de música de IA más avanzado
La división DeepMind de Google ha anunciado Lyria, su sistema de IA más avanzado para generar música original de alta calidad. Lyria puede crear pistas instrumentales, voces y canciones completas en diferentes estilos musicales. DeepMind está lanzando dos experimentos con Lyria: Dream Track en YouTube para generar bandas sonoras cantadas por artistas famosos y Music AI tools para artistas y productores para ayudar a la creatividad. Estos lanzamientos representan un hito en la capacidad de la IA para producir música convincente y creativa. DeepMind promete un desarrollo responsable de las tecnologías, involucrando a músicos y poniendo salvaguardas como el marcado de agua.
Bard se abre a los adolescentes con funciones de seguridad y herramientas de aprendizaje
Google anunció la expansión de su chatbot de IA Bard a los adolescentes en la mayoría de los países. Este es un paso importante, ya que Bard puede ayudar a los adolescentes a aprender nuevas habilidades y encontrar inspiración. Sin embargo, Google implementó funciones de seguridad y políticas de contenido para priorizar la seguridad de los adolescentes, como entrenar a Bard para evitar contenido inapropiado.
Common Sense Media califica herramientas de IA populares: muchas marcadas como inseguras para niños
Una organización independiente sin fines de lucro, Common Sense Media, ha publicado calificaciones de seguridad y ética para 10 aplicaciones y servicios de IA populares. En las reseñas publicadas en noviembre, la organización marcó varios modelos generativos de IA de uso extendido, incluidos DALL-E, Stable Diffusion y My AI de Snapchat, como potencialmente inseguros para su uso por parte de niños. Common Sense Media expresó preocupaciones sobre contenido inapropiado, refuerzo de sesgos injustos, problemas de privacidad y propagación de desinformación por estos sistemas de IA.
Meta toma medidas para garantizar la transparencia del contenido generado por IA en anuncios políticos
Meta anunció nuevas reglas que requieren que los anunciantes políticos revelen cuándo los anuncios contienen imágenes, videos o audio generados o alterados por IA. A partir del próximo año, los anuncios con representaciones realistas pero falsas de personas o eventos deben etiquetarse para informar a los usuarios. Meta dice que esta política tiene como objetivo prevenir la propagación de desinformación, aunque algunos críticos argumentan que no va lo suficientemente lejos. La medida llega mientras los legisladores presionan por una regulación más amplia sobre el uso de IA en materiales de campaña antes de las elecciones de 2024.
YouTube describe el enfoque para la innovación responsable de IA, incluidos nuevos requisitos de divulgación
YouTube anunció recientemente que implementarán actualizaciones en los próximos meses para informar a los espectadores cuando el contenido que ven contenga material alterado realista, incluido el realizado con herramientas de IA. Específicamente, se requerirá que los creadores revelen si subieron contenido que está alterado o es sintético, incluido contenido generado por IA, que representa eventos o acciones realistas. YouTube dice que se agregarán etiquetas y se podrá eliminar el contenido si viola las políticas. Indican que esto ayudará a abordar los riesgos de desinformación y aclarar la naturaleza de las nuevas formas de narración sintética habilitadas por IA para los espectadores.
ChatGPT y otras IA ahora tienen acceso a más de 20,000 acciones de Zapier
AI Actions anunció esta semana que ChatGPT y otras plataformas de IA ahora pueden integrarse y activar cualquiera de las más de 20,000 acciones de la popular plataforma de automatización Zapier. Esto permite que los sistemas de IA realicen tareas como enviar mensajes de Slack, crear leads de HubSpot y más. Los desarrolladores deben habilitar el acceso a acciones específicas de Zapier a través de la plataforma AI Actions. Según AI Actions, esta integración elimina obstáculos previos como la autenticación y la configuración de API para plataformas de IA.
El análisis de escáner cerebral de IA muestra promesas para detectar el Alzheimer
Un nuevo enfoque de aprendizaje automático que analiza escáneres cerebrales pudo detectar la enfermedad de Alzheimer con más del 90% de precisión en un estudio publicado en noviembre. Este análisis de IA de escáneres PET podría ser un avance tanto para los médicos que intentan diagnosticar el Alzheimer temprano como para los científicos que trabajan en nuevos tratamientos.
Modelo de aprendizaje automático pronostica el clima hasta 10 días con precisión récord
Los investigadores de Google DeepMind han desarrollado un modelo de aprendizaje automático llamado GraphCast que puede pronosticar las condiciones climáticas globales hasta 10 días de anticipación con mayor precisión que los sistemas de predicción meteorológica tradicionales existentes. Según los resultados publicados en noviembre en la revista Science, GraphCast superó el sistema de predicción de alta resolución del Centro Europeo de Predicciones Meteorológicas a Medio Plazo (ECMWF) en el 90% de las métricas probadas en los pronósticos de 10 días.
Recursos
Echa un ojo al siguiente listado de GPTs para ver lo que pueden hacer.
Common Sense Media. Si tienes hijos, esta web te puede interesar si quieres estar seguro si el contenido que ven tus hijos es apto para su edad.
¡Esto concluye las noticias de IA de esta semana! Si lo has encontrado informativo, no te olvides de compartirlo con amigos y compañeros. Y asegúrate de suscribirte para recibir las noticias de la próxima semana directamente en tu bandeja de entrada. ¡Gracias por leer!