Se hizo viral en redes sociales el error que presentó ChatGPT al escribir en su caja de consultas el nombre “David Mayer”. Muchos usuarios asociaron el nombre con David Mayer de Rothschild, un filántropo británico relacionado con la protección del medio ambiente, conocido también por su vínculo con Angelina Jolie. Surge la duda de por qué ChatGPT no proveería información sobre él. Sin embargo, los primeros indicios sugieren motivos técnicos detrás de esta anomalía.
Martin Hadis, un reconocido investigador en tecnología de medios del MIT, explicó que el problema no radica en David Mayer como individuo, sino en cuestiones técnicas del sistema. “La mera generación del nombre puede haber desencadenado un error. El sistema no procesa nombres como lo haría un humano, por lo tanto, el problema podría ocurrir antes de que el sistema incluso identifique el nombre”, afirmó.
Lea más: ¡Atención gamers!: estos son los lanzamientos de videojuegos de esta semana
La particularidad del nombre
Hadis también especula que podría deberse a cómo las redes neuronales interpretan las letras del nombre. Si se introduce “David de Rothschild” en ChatGPT, el sistema funciona correctamente y proporciona información detallada sobre el conocido aventurero ambientalista.
Al finalizar su comentario, Hadis concluyó que este error será corregido pronto. “Cada vez que se produce un error crítico, se genera un informe de soporte que ayuda a priorizar su solución”, menciona.
La “caja negra” de la IA
Este incidente con el nombre “David Mayer” refleja un desafío mayor en la IA: no se comprende completamente cómo decide qué información ofrecer. Esta “caja negra” fue señalada por Jorge Thierer, un cardiólogo, en un congreso reciente. Thierer reflexionó sobre cómo la IA revela las limitaciones humanas, pero a menudo no entendemos el porqué de sus decisiones.
La desconexión entre los datos procesados y las respuestas generadas provoca inquietud sobre la transparencia y sesgos internos de los algoritmos, cuestionando si realmente comprendemos el funcionamiento de estas tecnologías avanzadas.
Fuente: Clarín.com