En la era de la IA, es innegable el impacto de ChatGPT en la ayuda a los usuarios. Sin embargo, surge la necesidad de corroborar los resultados generados por esta tecnología. Recientemente, un abogado utilizó ChatGPT para presentar casos legales inventados, lo que lo expone a posibles sanciones. Esta situación pone de manifiesto la importancia de validar la información generada por la IA.
Abogado usó ChatGPT para la presentación legal y no ha sido para nada bueno!
Todo parece indicar que el abogado Steven Schwartz de Levidow, (Levidow & Oberman), ha ejercido su carrera durante tres décadas. Pero, ahora, un caso puede descarrilar por completo todo. Según se conoció, el abogado se basó en ChatGPT de OpenAI en sus presentaciones legales, a lo que el chatbot de IA elaboró por completo casos anteriores, que citó Steven Schwartz, de la nada.
A lawyer used ChatGPT to do "legal research" and cited a number of nonexistent cases in a filing, and is now in a lot of trouble with the judge 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) May 27, 2023
Pero, ¿Cómo ocurrió todo esto? Resulta que todo inicia con el caso en cuestión, Mata v. Avianca. Un cliente llamado “Roberto Mata” se encontraba demandando a la aerolínea luego de que un carrito de servicio le lesionara la rodilla durante un vuelo. Avianca Airlines, intentó que un juez desestimara el caso. En respuesta a ello, los abogados de Roberto Mata se opusieron y procedieron a presentar un escrito con un conjunto de decisiones judiciales similares en el pasado.
Steven Schwartz, el abogado de Roberto Mata que presentó el caso en la corte estatal y luego suministró investigación legal una vez que se transfirió a la corte federal de Manhattan, mencionó que utilizó el popular chatbot ChatGPT, para “complementar” sus propios hallazgos. A lo que el ChatGPT de OpenAI, ofreció a Schwartz varios nombres de casos similares como por ejemplo: el de Varghese contra China Southern Airlines, Shaboon contra Egyptair, Petersen contra Iran Air, así como también Martinez contra Delta Airlines, Estate of Durden contra KLM Royal Dutch, e incluso, otras más como Airlines y Miller contra United Airlines.
Pero, ¿Cuál fue el problema en sí? Resulta ser que el chatbot de OpenAI inventó por completo todos esos casos, (los mismos no existen). A lo que el equipo legal de la compañía “Avianca” y el juez asignado a este caso, al examinar esto, se dieron cuenta de que no podían ubicar ninguna de estas decisiones judiciales. Acto seguido, esto llevó a Steven Schwartz a explicar lo sucedido en una declaración jurada recientemente. Según se conoció, el abogado se había referido a ChatGPT para obtener ayuda con su presentación.
El abogado no sabía que su contenido era falso
Según mencionó Steven Schwartz, desconocía que su contenido pudiera ser falso, según informaron, el abogado incluso había ofrecido al juez capturas de pantalla de su interacción con el chabot de OpenAI y le preguntó al chatbot de IA si uno de los casos era real, a lo que ChatGPT respondió que sí. Incluso, confirmó que los casos se podían encontrar en “bases de datos legales acreditadas”. Pero lo cierto es, que ninguno de ellos pudo ser encontrado porque todos los casos fueron creados por el chatbot de Inteligencia Artificial (IA).
Pero, según se ha conocido recientemente, este caso sigue, el juez ordenó una audiencia el próximo mes para poder “discutir posibles sanciones” para el abogado Steven Schwartz, en respuesta a esta “circunstancia sin precedentes”.
Ahora bien, es importante señalar que ChatGPT como cualquier chatbot de IA, es un modelo de lenguaje entrenado para seguir instrucciones y proporcionar al usuario una respuesta a su solicitud. Por lo que es necesario que, si un usuario le pide información a ChatGPT, podría ofrecerle lo que está buscando (o algo aparentemente similar), incluso si no es un hecho real, lo que muchos expertos llaman “alucinaciones de la IA”. Por lo mismo, siempre es imperativo validar la información con varias fuentes de confianza y, más aún, cuando se trata de asuntos legales!
