En Nueva Zelanda condenaron a una mujer a más de tres años en prisión por incendiar una casa que alquilaba y atacar a un oficial de la policía. En circunstancias normales no sería el tipo de cosa que llega a los titulares internacionales, pero la semana pasada el juez del caso notó algo en la carta de disculpas de la acusada de 37 años, y vale la pena tomarlo en cuenta para el futuro, no importa a qué te dediques. Parece que la mujer usó herramientas de IA generativa para escribir su pedido de perdón y el juez cuestionó si eso significaba que lo lamentaba de veras.
Michae Ngaire Win fue sentenciaba la semana pasada por incendiar, robar, atacar y resistirse al arresto, según un informe del New Zealand Herald. Al juez Tom Gilbert no le causó buena impresión que enviara las cartas que envió pidiendo perdón al propietario de la casa que incendió y a los oficiales de policía a los que atacó. Había mordido a un policía y se dice que “se veía contenta” al decirle que ella tenía SIDA.
“Por curiosidad busqué dos herramientas de IA para ‘redactar una carta dirigida a un juez expresando remordimiento por lo que había hecho’”, habría dicho el juez según la transcripción que publicó el New York Times. “Enseguida noté que eran cartas generadas con IA, aunque tenían algunas modificaciones menores”.
El juez pareció abierto a la idea de que no es necesariamente malo utilizar la IA pero aclaró que “cuando se considera la autenticidad del remordimiento de la persona, producir una carta generada automáticamente a mí en lo personal no me convence de nada”.
La cuestión, claro está, es si un humano podría hacerse responsable de algo que produce un chatbot de IA. Hay personas que argumentan que sí estás asumiendo tu responsabilidad, porque le das al robot una cantidad de detalles sobre lo que estás buscando. Algunos lo comparan con la fotografía, en la que los humanos obtienen asistencia de una máquina para crear una imagen, y eso lo comparan con la forma de arte más pura de dibujar o pintar.
La controversia
Sin embargo, hay muchos otros que argumentan que en realidad no estás produciendo algo que te haga asumir la responsabilidad porque solo ingresas instrucciones en un sistema automático. La Oficina de Derechos del Autor en EE.UU. concuerda en esto porque las obras generadas por IA no se pueden registrar, bajo las leyes estadounidenses.
Está claro que el mundo todavía no ha encontrado la forma de evaluar adecuadamente la validez del trabajo generado por IA. Hoy los chicos usan herramientas como ChatGPT para hacer la tarea escolar, y eso hace que muchos se pregunten cómo será la educación y el aprendizaje en el futuro cercano.
En lo visible la IA generativa se siente como el genio de la lámpara, que te concede los deseos pero todavía nos falta entender cuáles son las normas sociales que rigen su uso. Mientras tanto, quizá no sea buena idea depender mucho de la IA disponible al consumidor para las cosas que importan, como los documentos legales, o administrar medicamentos a un ser querido.
Los pedidos de disculpas ante los tribunales importan, y esta mujer de Nueva Zelanda pensó que la IA la ayudaría. Pero no consideró qué pasaría si el juez se daba cuenta. Es que “perdóname” o “pido perdón” no suena igual si el juez sabe que no fuiste tú quien lo escribió. Un informe anterior a la condena sugería que la mujer no pasaría tiempo en prisión efectiva sino que estaría bajo arresto domiciliario, según el New Zealand Herald, pero el juez dictó la sentencia: 27 meses en prisión.
Este artículo ha sido traducido de Gizmodo US por Lucas Handley. Aquí podrás encontrar la versión original.
#Vale #mismo #pedir #disculpas #perdón #escribe
