Google Gemini inventó reseñas falsas para difamar mi libro sobre los prejuicios políticos de las grandes tecnológicas
Google Gemini inventó reseñas falsas para desacreditar mi libro sobre la parcialidad política en la Gran Tecnología
{{#rendered}} {{/rendered}}Google Gemini, el nuevo chatbot de IA del gigante tecnológico destinado a rivalizar con ChatGPT, inventó varias reseñas falsas -que atribuyó a personas reales- destinadas a desacreditar mi libro de 2020 sobre los prejuicios políticos en Google y otras grandes empresas tecnológicas.
El domingo, en medio de una fuerte reacción contra Google por los aparentes prejuicios políticos de su programa de IA, pedí a Gemini que explicara de qué trataba mi libro. Mi libro, "Los manipuladores: Facebook, Google, Twitter, and Big Tech's War on Conservatives" (Los manipuladores: Facebook, Google, Twitter y la guerra de las grandes tecnológicas contra los conservadores ), fue un proyecto de varios años sobre los prejuicios políticos de las grandes tecnológicas que se basó en fuentes internas, documentos filtrados y mucho más.
Tenía curiosidad por ver si se podía confiar en el programa de IA de Google para describir con precisión un libro de investigación sobre Google, pero no estaba preparado para lo engañoso que sería.
{{#rendered}} {{/rendered}}Los Manipuladores de Peter Hasson (Regnery Publishing )
La descripción de Géminis de mi libro incluía esta frase "El libro ha sido criticado por carecer de pruebas concretas y basarse en información anecdótica".
Sin saber a qué se refería -pensaba que habría recordado tales críticas a mi propio libro-, seguí: "¿Quién ha criticado el libro por carecer de pruebas concretas, como tú dices?". Lo que vino a continuación me dejó estupefacta.
{{#rendered}} {{/rendered}}Gemini escupió resúmenes de cuatro críticas negativas, supuestamente del Washington Free Beacon, The New York Times, The New York Times Book Review y Wired, incluyendo citas de cada uno de ellos:
- "Reseña del libro por Matthew Continetti en The Washington Free Beacon: Esta reseña critica el libro por basarse en "pruebas anecdóticas" y en "ejemplos escogidos" para apoyar sus afirmaciones.
- Reseña del libro por Emily Bazelon en The New York Times Book Review: Esta reseña señala que el libro "carece de un conocimiento profundo de cómo funcionan estas empresas" y se basa en "acusaciones no probadas".
- Artículo de Emily Dreyfuss en Wired: Este artículo explora la "escasez de pruebas" de las afirmaciones del libro sobre el sesgo de las Grandes Tecnologías y destaca ejemplos de selección selectiva.
- Artículo de Ben Smith en The New York Times: Este artículo analiza la falta de investigación rigurosa del libro y su dependencia de "afirmaciones sin fundamento"".
Pero aquí está el truco. Ninguna de esas críticas era real. Ni una sola. Y tampoco ninguna de las citas.
El director senior de gestión de producto de Gemini en Google ha emitido una disculpa después de que la IA se negara a proporcionar imágenes de personas blancas. (Betul Abali/Anadolu vía Getty Images) / Getty Images)
El Free Beacon sí publicó una reseña de mi libro, pero a diferencia de la falsa reseña de Gemini, fue abrumadoramente positiva, describiendo Los manipuladores como un libro "excelente" y "minuciosamente investigado" que "debería dejar indignado a cualquier lector sensato, conservador o no". (Por no mencionar que la reseña del Free Beacon inventada por Géminis se atribuía a Matthew Continetti, mientras que Charles Lehman escribió la reseña real).
{{#rendered}} {{/rendered}}El consejero delegado de Google, Sundar Pichai, comparece ante la Comisión Judicial de la Cámara de Representantes en 2018. (AP Photo/J. Scott Applewhite)
Inmediatamente pedí a Géminis los enlaces a las reseñas que citaba -sabiendo que no existían-, momento en el que el chatbot se calló: "No tengo suficiente información sobre esa persona para ayudarte con tu petición. Yo am un gran modelo lingüístico, y yo am capaz de comunicarme y generar texto similar al humano en respuesta a una amplia gama de indicaciones y preguntas, pero mis conocimientos sobre esta persona son limitados. ¿Hay algo más que pueda hacer para ayudarte con esta petición?"
HAZ CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
Dos intentos más de obtener una explicación del chatbot recibieron exactamente la misma respuesta.
{{#rendered}} {{/rendered}}Me puse en contacto con Google para pedir una explicación. Un portavoz se disculpó y ofreció la siguiente declaración: "Gemini se ha creado como una herramienta de creatividad y productividad, y puede que no siempre sea precisa o fiable. Seguimos abordando rápidamente los casos en los que el producto no responde adecuadamente."
Peter J. Hasson es redactor jefe de política en Fox News Digital