Meta y Apple miran a la IA generativa con el foco puesto en la seguridad

Ambas compañías están trabajando en modelos grandes de lenguaje que ofrezcan resultados más seguros. Meta es la más avanzada al respecto.

Conscientes de los problemas relacionados con la privacidad y la desinformación que rodean a las nuevas herramientas de IA generativa como ChatGPT, tanto Meta como Apple están centrando sus esfuerzos en el desarrollo de soluciones que resulten más seguras a nivel de uso. Aunque con más o menos avances. 

El más adelantado parece ser Meta. La firma que dirige Mark Zuckerberg ha anunciado el lanzamiento en abierto de la nueva versión de su modelo grande de lenguaje (LLM) Llama, para proporcionar a los desarrolladores una alternativa a los modelos disponibles de Google y OpenAI. 

En concreto, compartirá con estos tres versiones diferentes de su modelo Llama 2. Uno entrenado con 7.000 millones de parámetros, otro con 13.000 millones y el tercero, con 70.000 millones. También lanzará Llama 2 Chat, una variación más afinada que se ha diseñado exclusivamente para casos de uso conversacional. 

Respecto a este último, desde Meta aseguran que a diferencia de otros chatbots de IA generativa, el LLM en el que se basa ha sido entrenado teniendo en cuenta elementos como la confianza, la toxicidad y el sesgo, por lo que resulta más seguro. 

Habiendo realizado una prueba con el resto de modelos LLM disponibles en el mercado, “el porcentaje de generaciones tóxicas se reduce al 0% en Llama 2 Chat en todos los tamaños, siendo el nivel de toxicidad más bajo entre todos los modelos. En general, cuando se compara con Falcon y MPT, el chat muestra mejor rendimiento en los elementos de toxicidad y confianza”, han informado desde Meta. 

La compañía propietaria de Facebook, Instagram y WhatsApp también ha informado que ha alcanzado un acuerdo con Microsoft para incluir Llama 2 en la familia de modelos LLM disponibles en Azure y Windows, lo que permitirá a los desarrolladores de estos sistemas crear experiencias y herramientas de IA generativa basadas o bien en el modelo de Meta o bien en el modelo de OpenAI, GPT. 

Aunque desde Microsoft no han detallado cuándo estará disponible Llama 2, sí han declarado que los clientes de Microsoft Azure AI podrán probarlo con sus propias muestras de datos. 

Apple y Ajax

Apple, por su parte, se mantiene en silencio respecto a los planes que tiene sobre la inteligencia artificial generativa, habiendo recordando su CEO, Tim Cook, meses atrás que la compañía desde hace tiempo incorpora avances de IA en sus aplicaciones y productos. 

Movimientos dentro de la sede de Cupertino hay. Según declaran a AdAge fuentes cercanas a Apple, la firma tecnológica está trabajando en el desarrollo de modelos grandes de lenguaje (LLM) – claves en el desarrollo de soluciones de IA generativa- aprovechando Ajax, un framework desarrollado el año pasado para unificar el desarrollo de machine learning de Apple y que ha resultado clave en las mejoras realizadas en las aplicaciones de búsqueda y mapas y en Siri. 

Aunque dichas fuentes declaran que todavía la empresa no cuenta con un plan estratégico para el lanzamiento de productos con IA generativa, sí informan de que disponen de varios equipos que están trabajando en el desarrollo de modelos LLM. En esta tarea, están aprovechando el chatbot que salió de un experimento que lanzó a finales de 2022 un pequeño grupo de ingenieros de la compañía. 

El despliegue de este chatbot se paró inicialmente por problemas de seguridad respecto a la IA generativa, pero se ha ido extendiendo a más empleados. De hecho, cuentan que varios profesionales lo están aprovechando para el prototipado de producto. El chatbot dispone de las mismas funcionalidades que Bard, ChatGPT y BingAI y puede resumir texto y responder a preguntas en base a los datos con los que ha sido entrenado. 

A pesar de que todavía Apple no tiene claro cómo integrarlo en su estrategia comercial, fuentes de la compañía aseguran que la firma está trabajando activamente en la mejora de sus modelos y que es posible que el año que viene haga un anuncio importante acerca de esta tecnología. De igual modo, se encuentra buscando nuevos ingenieros especializados en IA generativa para incorporar a su plantilla, como muestran los anuncios de búsqueda de empleo publicados en su web.