Los ejecutivos de Google discutieron el crecimiento de ChatGPT en una reunión general reciente, pero enfatizaron que los chatbots de IA aún tienen mucho camino por recorrer antes de que puedan reemplazar la búsqueda debido a problemas como el sesgo y las inexactitudes de los hechos.
Algunos han especulado, con el lanzamiento de ChatGPT, que los chatbots de inteligencia artificial pronto reemplazarán a los motores de búsqueda estándar. Los funcionarios de Google, sin embargo, argumentan que la tecnología aún no está lista para mostrarse a las personas debido a problemas como el prejuicio inherente, la toxicidad y la propensión de los chatbots a simplemente inventar cosas.
CNBC afirma que el CEO de Alphabet, Sundar Pichai, y el jefe de IA de Google, Jeff Dean, discutieron la popularidad de ChatGPT en una reunión reciente. Un trabajador se preguntó en voz alta si Google había perdido una "oportunidad perdida" al no reaccionar más rápido al lanzamiento de OpenAI de su bot, que fue desarrollado en estrecha colaboración con Microsoft, rival de Google. Según los informes, en respuesta, Pichai y Dean dijeron que los modelos de lenguaje de IA de Google son tan capaces como los de OpenAI, pero que debido al "riesgo reputacional" que plantea la tecnología, la empresa tenía que operar "con más cuidado que una pequeña empresa". "
"Claramente estamos trabajando para convertir estas cosas en productos reales y en cosas que muestren de manera más prominente el modelo de lenguaje que debajo de las sábanas", dijo Dean. "Sin embargo, es crucial que lo hagamos bien". Pichai continuó, "esta es un área en la que debemos ser audaces y responsables, por lo que debemos equilibrar eso". Google tiene "mucho" planeado para las funciones de lenguaje de IA en 2023.
Varios grandes modelos de lenguaje artificial (LLM) de Google están a la par con ChatGPT de OpenAI en términos de rendimiento. Google ha implementado varios de ellos para mejorar su motor de búsqueda, incluidos BERT, MUM y LaMDA. Las mejoras sutiles como esta tienen como objetivo analizar las búsquedas de los usuarios para comprender mejor su propósito. Según Google, MUM ayuda a identificar los momentos en que un usuario puede estar experimentando una crisis de salud mental y lo conecta con recursos de organizaciones como Samaritans en respuesta a esas consultas. Para darle a la gente una idea de su tecnología de chatbot de IA, Google ha lanzado aplicaciones como AI Test Kitchen. Sin embargo, Google ha impuesto algunas restricciones sobre cómo sus chatbots pueden interactuar con los usuarios.
Incluso OpenAI, que había sido algo reservado sobre el progreso de su tecnología LLM hasta el lanzamiento de ChatGPT, ahora ha abierto el desarrollo al público. El resultado ha sido un maremoto de atención positiva para OpenAI, a pesar de que la empresa está soportando una carga financiera sustancial al hacer que la tecnología esté disponible de forma gratuita.
ChatGPT y otros LLM muestran una versatilidad lingüística impresionante, pero también tienen limitaciones bien conocidas. Son fáciles de engañar (los usuarios descubrieron que podían eludir las pautas de seguridad de ChatGPT, que se supone que evitan que brinde información peligrosa, simplemente pidiéndole que imagine que es una mala IA), y con frecuencia brindan información falsa y engañosa en respuesta a consultas, que es quizás lo más relevante para Google. Los usuarios han descubierto que ChatGPT "miente" en una variedad de temas, desde información histórica y biográfica fabricada hasta la justificación de declaraciones engañosas y potencialmente dañinas, como la sugerencia de que agregar porcelana triturada a la leche materna "puede beneficiar el sistema digestivo infantil".
Dean abordó estas diversas dificultades en una reunión interna de Google. Según él, "se puede imaginar que para las aplicaciones de búsqueda, los problemas de factualidad son muy cruciales", mientras que en otros contextos, las preocupaciones como el sesgo, la toxicidad y la seguridad tienen prioridad. Un chatbot "puede inventar cualquier cosa [...] Si no están realmente seguros de algo, simplemente te dirán, ya sabes, los elefantes son las criaturas que ponen los huevos más grandes o lo que sea", agregó sobre la inteligencia artificial. .
Este tema ha sido objeto de estudio en Google durante bastante tiempo, y ocasionalmente ha causado controversia; no obstante, el debut de ChatGPT ha provocado nuevas conversaciones sobre la posibilidad de que los chatbots reemplacen a los motores de búsqueda tradicionales. Después de publicar un estudio que destacaba los problemas tecnológicos y éticos relacionados con los LLM, los investigadores de inteligencia artificial Timnit Gebru y Margaret Mitchell fueron despedidos de Google (los mismos desafíos que Pichai y Dean ahora explican al personal). Cuatro investigadores de Google investigaron la misma pregunta en mayo del año pasado y describieron varios problemas posibles con el uso de la IA en la búsqueda. Un problema importante es que los LLM "no tienen una verdadera comprensión del mundo, son propensos a las alucinaciones y, lo que es más importante, son incapaces de explicar sus declaraciones refiriéndose a los documentos de respaldo en el corpus en el que fueron capacitados", como dijeron los investigadores en su informe.
Por supuesto, existen soluciones para estos problemas, y los competidores de Google probablemente sopesarán los pros y los contras de crear un motor de búsqueda impulsado por IA, independientemente de lo arriesgado que pueda ser, para obtener una ventaja sobre Google. Después de todo, el "daño a la reputación" no es un gran problema cuando recién comienza.
OpenAI parece estar tratando de reducir las expectativas de la gente. El CEO Sam Altman tuiteó recientemente: "ChatGPT está terriblemente restringido, pero lo suficientemente bueno en algunas cosas para crear una apariencia engañosa de grandeza. No es prudente ponerle peso en este momento. Es un adelanto del futuro; todavía hay un mucho trabajo por hacer en cuanto a fiabilidad y precisión.
Tags
noticias