Noticias falsas y ridiculización de los muertos: ¿qué hay de malo en las noticias sobre inteligencia artificial de Microsoft?

Los puntos débiles del algoritmo se destacan en un artículo de CNN.

Un nuevo informe de CNN sobre la agregación de noticias del modelo MSN AI comienza con ejemplos de llamadas editoriales cuestionables, como resaltar una historia que afirma que el presidente Joe Biden se quedó dormido durante un momento de silencio por las víctimas de los incendios forestales de Maui (no lo hizo), o un obituario que Inexplicablemente se refirió a un jugador de la NBA como "inútil". Los problemas podrían haber sido detectados por un equipo editorial humano. Aunque Microsoft abandonó el trabajo humano en favor de los algoritmos hace unos años, su sistema sigue siendo más un experimento social que una herramienta útil.

El hecho de que la IA de MSN seleccionó estas historias no es diferente del hecho de que el algoritmo de Microsoft generó y fue aprobado por un humano una guía de viaje que sugería a los viajeros en Ottawa cenar en el banco de alimentos local o que la IA de MSN creó una encuesta pidiendo a los lectores que Votar sobre la causa de la muerte de una joven.

Por supuesto, Microsoft no es el único culpable. La industria periodística no es inmune a la omnipresencia de la IA. La BBC está realizando una investigación sobre inteligencia artificial; sitios web como Macworld emplean chatbots para realizar consultas sobre archivos; mientras que Associated Press ha estado empleando IA durante más de ocho años en su función "Automated Insights".

Ha habido varios ejemplos de alto perfil en el último año que demuestran por qué los chatbots de IA no deberían ser periodistas, incluidos relatos inexactos de las precuelas de Star Wars y malos consejos financieros brindados por los chatbots.

Se recomienda el menú Inicio de Microsoft y MSN a cualquiera que busque fuentes de noticias confiables. Pero su sistema automático sigue destacando o generando contenido con lenguaje excesivamente duro y falsedades evidentes, y hay pocos indicios de que a nadie involucrado en el proceso le importe. No hay periodistas descuidados a quienes señalar con el dedo, ni editores identificables que puedan aceptar (o evitar) la culpabilidad. El software simplemente hace aquello para lo que fue diseñado, y cuando algo sale mal, los portavoces se encogen de hombros y dicen que harán todo lo posible para evitar que vuelva a suceder.