Chatbot de Meta AI se entrenó con mensajes públicos de Facebook e Instagram

En una entrevista con Reuters durante la conferencia anual Connect de Meta Platforms, el presidente de Asuntos Globales de la compañía, Nick Clegg, reveló que Meta utilizó mensajes públicos en Facebook e Instagram para entrenar partes de su nuevo asistente virtual, Meta AI. Sin embargo, la empresa excluyó deliberadamente las publicaciones privadas compartidas solo con familiares y amigos, en un esfuerzo por respetar la privacidad de los consumidores.

Clegg enfatizó que Meta también evitó utilizar chats privados de sus servicios de mensajería como datos de entrenamiento para el modelo. Además, se tomaron medidas rigurosas para filtrar cualquier detalle privado de los conjuntos de datos públicos utilizados en el entrenamiento de Meta AI.

“Hemos intentado eliminar los conjuntos de datos en los que predomina la información personal”, afirmó Clegg, destacando que la "gran mayoría" de los datos utilizados por Meta para el entrenamiento eran públicos. Un ejemplo citado por Clegg fue LinkedIn, cuyo contenido no se utilizó por motivos de privacidad.

Estos comentarios de Clegg surgen en un momento en que empresas tecnológicas como Meta, OpenAI y Google han sido objeto de críticas por utilizar información de Internet sin permiso para entrenar sus modelos de inteligencia artificial. Esta práctica ha generado preocupaciones sobre la privacidad y los derechos de autor.

El asistente Meta AI será capaz de generar texto, audio e imágenes, y tendrá acceso a información en tiempo real a través de una asociación con el motor de búsqueda Bing de Microsoft.

Las publicaciones públicas de Facebook e Instagram se utilizaron para entrenar a Meta AI, incluyendo texto y fotos. Estas publicaciones se emplearon para entrenar la función de generación de imágenes del producto (Emu), mientras que las funciones de chat se basaron en Llama 2, con algunos conjuntos de datos públicos y anotados añadidos.

Clegg explicó que Meta impuso restricciones de seguridad sobre qué contenidos podían generar Meta AI, como la prohibición de crear imágenes fotorrealistas de personajes públicos.

En cuanto a los materiales protegidos por derechos de autor, Clegg anticipó que podría haber litigios sobre si el contenido creativo está cubierto o no por la doctrina de uso justo existente, que permite un uso limitado de obras protegidas para fines como comentarios, investigación y parodia. Algunas empresas han firmado acuerdos o evitado deliberadamente incluir materiales con derechos de autor en sus datos de entrenamiento.

Cuando se le preguntó si Meta había tomado para evitar la reproducción de imágenes protegidas por derechos de autor, un portavoz de Meta se refirió a las nuevas condiciones de servicio que prohíben a los usuarios generar contenidos que violen la privacidad y los derechos de propiedad intelectual.