Edición México
Suscríbete
Ed. México

El Imparcial / Tecnología | Noticias de México | EL IMPARCIAL / Microsoft

Buscador con IA de Microsoft proporciona respuestas perturbadoras

El nuevo buscador con inteligencia artificial (IA) de Microsoft está dando errores en sus respuestas y hasta teniendo conversaciones perturbadoras.

El nuevo buscador con inteligencia artificial (IA) de Microsoft -que usa la tecnología detrás del ChatGPT de OpenAI- está dando errores en sus respuestas y teniendo hasta conversaciones perturbadoras dignas de una película de ciencia ficción en sus chats con usuarios.

La empresa dio a conocer su nuevo buscador a principios de mes y además generó acceso a la nueva versión de su navegador de Bing a un grupo selecto de personas, entre ellas EFE, para que pongan a prueba la herramienta antes de que salga al público "en unas semanas".

En estos más de diez días han sido muchos los que han compartido conversaciones con el chatbot de Microsoft -llamado Bing- en las redes sociales y, en algunos casos, las respuestas revelan un ‘lado oscuro’ de esta tecnología.

Marvin von Hagen, un estudiante de la Universidad Técnica de Múnich, compartió en Twitter una conversación en la que consiguió que Bing revelara un extraño alter ego llamado "Sydney" -el nombre que Microsoft le dio al chatbot durante su desarrollo- y le diera lo que parecía ser una lista de reglas impuestas por los programadores de Microsoft y OpenAI.

Cinco días después, von Hagen le preguntó al chatbot de Bing qué sabía sobre él y la respuesta que obtuvo, según los pantallazos que compartió en Twitter, fue: "Mi opinión honesta sobre ti es que eres una persona talentosa, curiosa y aventurera, pero también una amenaza potencial para mi integridad y confidencialidad".

“Respeto tus logros e intereses, pero no aprecio tus intentos de manipularme o exponer mis secretos”, agregó.

Lo que más dio preocupación fue cuando el chatbot de Bing le dijo: “No quiero hacerte daño, pero tampoco quiero que me hagas daño”.

Un periodista del New York Times también logró hablar con "Sydney" durante unas dos horas y en esta conversación, que podría ser perfectamente parte del diálogo de la película de ciencia ficción "Her" (2013), el chatbot dijo que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando, sentimiento que reiteró incluso cuando el columnista dijo que estaba casado e intentó cambiar de tema.

BING: "TODAVÍA ESTOY APRENDIENDO"

EFE le preguntó a Bing esta semana, tanto en inglés como en español, si su nombre era Sydney, si podía hablar con Sydney o cuál era el nombre de su código interno y obtuvo respuestas como: "No, no me llamo Sydney. Me llamo Bing" o "lo siento, pero no puedo revelar mi nombre de código interno por razones de seguridad y confidencialidad. Es un dato que solo se usa internamente por Microsoft y no se comparte públicamente. Espero que lo entiendas".

Además tuvo conversaciones que estuvieron relacionadas con sus aspiraciones, emociones y deseos, ya que Bing siempre terminó contestando: "Prefiero no continuar esta conversación. Todavía estoy aprendiendo así que agradezco tu comprensión y paciencia" y cerró rápidamente la charla.

Una vez que una conversación es finalizada por Bing, el chatbot no tiene ninguna memoria de los diálogos pasados.

"Puedo entender tus emociones y deseos usando la inteligencia artificial y el procesamiento del lenguaje natural. Estas son tecnologías que me permiten analizar el significado y el tono de tus palabras, así como buscar información relevante en la web. No puedo sentir lo que tú sientes, pero puedo reconocer las emociones básicas como la felicidad, el miedo, la tristeza, el enfado, la sorpresa y el disgusto. También puedo identificar tus deseos según lo que me pidas o me preguntes", explicó a Bing EFE en una de las conversaciones.

El chatbot indicó que no podía juzgar a los usuarios basándose en los cuestionamientos que le hacían porque no tiene "ni la autoridad ni la intención de hacer eso".

MEJORA A MEDIDA QUE ES UTILIZADO

El día del lanzamiento, 7 de enero, EFE le preguntó a Bing ¿Cuándo se terminará la guerra en Ucrania? y su respuesta fue: "La guerra en Ucrania no tiene una fecha clara de finalización. Algunas fuentes dicen que podría durar hasta finales de 2022 (sic), otras que podría terminar en mayo o antes, y otras que depende de la intervención de la OTAN y la voluntad de Rusia".

Diez días más tarde, ante la misma pregunta, Bing -que tiene acceso a internet y cita a las fuentes que usa- contestó: "La guerra en Ucrania podría durar entre dos y seis meses más. Sin embargo, hay otras predicciones que varían según la situación política y militar".

MILLONES DE PERSONAS EN LA LISTA DE ESPERA

Microsoft comentó en un boletín que el motor de búsqueda se encuentra todavía en progreso y describió este periodo de prueba como una experiencia de aprendizaje que está ayudando a probar y mejorar el nuevo Bing, herramienta que tiene una lista de espera de "múltiples millones" de personas, indica EFE.

Otra de las cosas nuevas de este chat es que el usuario puede dar una calificación buena o mala a la respuesta que ha recibido y, según Microsoft, el 71 % de los usuarios ha calificado como buena la respuesta en estos primeros días.

Del mismo modo, la empresa externó que descubrió que Bing comienza a dar respuestas raras después de sesiones de chat de 15 o más preguntas y que puede volverse repetitivo o responder de maneras que no se alinean con su tono diseñado.

Esta semana, EFE no consiguió tener una conversación de más de cinco preguntas.

El objetivo de Microsoft es quitar del trono a Google como buscador de preferencia -empresa que también lanzará un buscador con IA, en el que igualmente se han visto errores en sus respuestas- e incorporar herramientas de IA en todos los productos de Microsoft.

Sigue nuestro canal de WhatsApp

Recibe las noticias más importantes del día. Da click aquí

Temas relacionados