Para nadie es un secreto que los chatbots de Inteligencia Artificial (IA) como ChatGPT de OpenAI por ejemplo, tienen una fuerte tendencia a inventar cosas. Tal y como se ha podido observar, son tan buenos inventando hechos como también ayudando a las personas con el trabajo, pero, si ambas cosas se combinan, puede llegar a ocurrir un verdadero desastre. A continuación le presentaremos los mejores datos con respecto a este tema tan importante en la actualidad como lo es la IA.
Alucinaciones en los chatbots de IA Generativa
Si las personas que crean la Inteligencia Artificial tienen la capacidad de poder solucionar ese problema continúa siendo objeto de debate, o al menos así lo anuncia Associated Press. Es importante tener presente que algunos expertos, incluyendo los ejecutivos que comercializan estas herramientas, argumentan que estos chatbots están condenados a inventar falsedades para siempre, a pesar de los mejores esfuerzos que realizan sus creadores.
Según ha mencionado la AP Daniela Amodei, cofundadora y presidenta de Anthropic, fabricante del chatbot de IA Claude 2, no cree que exista ningún modelo hoy en día que no sufra alguna alucinación. Al mismo tiempo que señaló que en realidad se encuentran diseñados para poder predecir la siguiente palabra, por lo que habrá una cierta tasa en la que el modelo lo haga de forma incorrecta.
Empresas tecnológicas están comprometidas con la tecnología
La verdad es que eso no es un buen augurio, teniendo en cuenta que las empresas tecnológicas están extremadamente comprometidas con la tecnología. Hay que señalar que sin la capacidad de los chatbots para corregir su fuerte tendencia a inventar cosas (alucinaciones), las empresas podrían estar enfrentando importantes contratiempos conforme exploran nuevas formas de hacer uso de la tecnología.
La AP Emily Bender, profesora de lingüística y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington, ha indicado que esto no se puede arreglar. Así mismo, señaló que es inherente a la falta de coincidencia entre la tecnología y los casos de uso propuestos. Además, según Bender, es solo “por casualidad” que el texto generado pasa a ser interpretable como algo que consideramos correcto.
Por su parte, no hay que dejar pasar por alto que los líderes tecnológicos son optimistas, lo que no es exactamente asombroso, considerando que hay miles de millones de dólares en juego. Empresas como por ejemplo OpenAI y Anthropic, actualmente están atrapadas en una batalla cuesta arriba. Hacer que los chatbots digan la verdad de manera confiable no será para nada fácil, si es que es posible. Pero, tanto estas compañías como también otras, seguirán intentándolo todo.
