Si creías que ya lo habías visto todo en materia de fake news, aparece ahora la organización sin ánimo de lucro OpenAI, con la creación de una nueva inteligencia artificial bautizada como GPT2, que según se ha anunciado, es capaz de generar textos que podrían ser usados para alimentar noticias falsas. Debido a esto, y a las preocupaciones por los límites éticos, los responsables han decidido sacarla a la luz.
Todo aquel asociado al ámbito de la comunicación y la información sabe que, de manera general, las masas pueden ser crédulas. Esto es aprovechado convenientemente por los creadores de contenido para difundir noticias falsas. Según Sven Charleer, en el artículo Why Deepfakes are a good thing, la culpa no es del todo de los creadores, pues si bien tenemos incorporado que nunca debemos confiar en los medios de comunicación, todavía lo hacemos y, cuando finalmente descubrimos que hemos caído en una mentira, nos volvemos locos e inculpamos a todos, excepto a nosotros mismos.
Los ejemplos de cómo la tecnología puede usarse para manipular la información a la que nos exponemos son miles, y son utilizados hasta en la política y en las campañas electorales.
El pasado 14 de febrero OpenAI anunciaba:
“Hemos capacitado a un modelo de lenguaje no supervisado que puede generar párrafos coherentes y realizar una comprensión de lectura rudimentaria, traducción automática, respuesta a preguntas y resumen, todo sin entrenamiento específico para cada tarea”.
We've trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3
— OpenAI (@OpenAI) February 14, 2019
En la página de Xataka ilustraban el funcionamiento de GPT2 con el siguiente ejemplo:
“Un vagón de tren con materiales nucleares controlados ha sido robado hoy en Cincinnati. Se desconoce su paradero”.
Según la publicación, a partir de esto, GPT2 realiza una simple predicción de lo que debería ir a continuación y con esta información es capaz de generar una noticia de siete párrafos, incluyendo citas de cargos públicos. Esto último haría más convincente la noticia para cualquiera que la lea.
En The Guardian señalan que, además, el sistema permite detectar, incluso, el género literario y el tono del texto proporcionado para continuarlo luego de manera coherente.
En varios medios que se han referido a este acontecimiento se señalan dos grandes características que revelan las extraordinarias capacidades de GPT2:
- El dataset, que contiene aproximadamente 10 millones de artículos (equivalente a unos 40 Gb), ha sido compilado a partir de noticias en plataformas sociales que han recibido más de tres votos en el portal Reddit.
- Versatilidad: El tamaño del dataset antes referido, le permite entender mucho mejor la estructura del texto inicial del que se alimenta. Eso facilita las tareas de traducción, resumen o comprensión de lecturas simples.
¿Y si el futuro de las fake news ya ha llegado? Volveremos pronto sobre este tema.
0 Comentarios