Inteligencia Artificial: lo mejor y lo peor que nos ha pasado

Un juez utiliza un chat de Inteligencia Artificial (IA) para fundamentar una sentencia sobre acceso a derechos de salud. Un estudiante le pide a ese mismo chat que le escriba un ensayo para su clase de filosofía y saca la mejor nota del curso. Una computadora gana un concurso de arte con una obra de su creación. El uso de plataformas de Inteligencia Artificial se ha masificado casi de un momento a otro y aún no sabemos bien hasta donde correr los límites. 

Sospechó que el trabajo no era suyo porque estaba demasiado bien. Era alumna de 1o de filosofía y el ensayo correspondía a un alumno brillante de último curso.
Sí, lo redactó chatGPT.
De nuevo, la cuestión: si el resultado es bueno, ¿como integrarlo?
28/https://t.co/ZZ7W14xV88

— Francesc Pujol (@NewsReputation) January 12, 2023

El mundo académico es uno de los más impactados. Algunos colegios públicos de Nueva York prohibieron el uso de ChatGPT, el generador de textos. Pero ¿es prohibir realmente una solución? Para los expertos, por ahí no va el camino. En la Universidad del Rosario, de Bogotá, el abogado Juan David Gutiérrez viene analizando desde hace ya un tiempo el impacto de las IA y cómo debemos lidiar con ellas tanto en el mundo académico como en el resto de la sociedad. 

De hecho, Gutiérrez desarrolló un protocolo de uso de IA en el aula enfocado en promover la responsabilidad. Consiste principalmente en que cuando el alumno use herramientas de “alto riesgo”, como las llama Gutiérrez, como por ejemplo generadores automáticos de texto y de imagen como ChatGPT y DALL-E, debe especificar qué usó y cómo lo hizo, y que en el texto sea distinguible la parte producida por la IA. Las herramientas de bajo riesgo son los correctores de texto, los traductores y los buscadores, por ejemplo.

En todo caso Gutiérrez recalca que las herramientas de IA no son confiables y pueden incluir información falsa o fantasiosa. En un hilo de Twitter dedicado a la sentencia realizada mediante ChatGPT por un juez laboral de Cartagena (Colombia), Gutiérrez explica que la plataforma “tiende a arrojar resultados incorrectos, imprecisos y falsos. No distingue realidad de ficción. De hecho la herramienta así lo advierte cada vez que uno ingresa para hacer consultas”.

Gutiérrez añade que ChatGPT forma parte de una familia de modelos de lenguaje a gran escala. “Eso quiere decir que son sistemas entrenados con trillones de datos literalmente raspados de internet y ese cuerpo de datos le permite al sistema predecir la probabilidad de que una palabra o un hilo de palabras aparezca dado su contexto previo”, cuenta. Gutiérrez sostiene que no es muy diferente lo que pasa cuando el WhatsApp sugiere cómo terminar la frase, “pero obviamente a una escala mucho mayor”.

Me dejó muy preocupado la sentencia del Juzgado de Circuito Laboral #1 de Cartagena que usó respuestas de #ChatGPT para motivar una decisión de segunda instancia de una tutela relacionada con el derecho fundamental a la salud.
Explico por qué me preocupa en este hilo: pic.twitter.com/5cLJaEJatz

— Juan David Gutiérrez (@JuanDGut) January 31, 2023

El académico hizo una serie de pruebas en las que ChatGPT dio como ciertas algunas noticias falsas, como que el presidente de Colombia, Gustavo Petro, había sido detenido por saqueos en el año 2000. Y al preguntarle por una masacre histórica en Colombia (la de las bananeras en 1928), ChatGPT inventó fuentes. 

Para el académico y experto en Gobernanza de IA, es positivo que los Estados incorporen la IA en sus procesos, pero deben hacerlo con plena conciencia de sus limitaciones. “El mismo CEO de ChatGPT dijo en diciembre que es un error confiar en ella para algo importante en este momento (…) queda mucho trabajo por hacer en cuanto a solidez y veracidad”.

El protocolo de uso de IA de la Universidad del Rosario advierte que, entre otros problemas, “algunas herramientas tienden a reproducir o amplificar estereotipos derogatorios y discriminatorios asociados al género, raza, etnia o discapacidad; las tecnologías podrían haber sido desarrolladas a partir de la violación masiva de derechos de autor; algunas herramientas habrían sido desarrolladas en contextos de explotación laboral; el desarrollo y operación de dichos sistemas genera una huella de carbono considerable; y, la potencial violación a los derechos de privacidad y de protección de datos personales de quienes las usan”.

Si bien, como dice el profesor Gutiérrez, ChatGPT no es una fuente confiable, al hacer el ejercicio de preguntarle respecto a los riesgos y desafíos en el uso de Inteligencia Artificial, el chat automatizado respondió:

En cualquier caso, no hay dudas de que la Inteligencia Artificial terminará por incorporarse para mejorar los procesos en diversas áreas como ingeniería, planificación social o en la salud. Pamela Guevara, académica de la Universidad de Concepción e investigadora de los centros basales AC3E y CENIA, explica que “actualmente se utilizan herramientas IA para diagnósticos de retinopatía diabética en imágenes de fondo de ojo, se ha avanzado más en esta área porque es un examen bastante común y con costos bajos”.

Para Guevara, la IA será muy importante como herramienta de apoyo al diagnóstico y al seguimiento del tratamiento. “No se piensa que reemplazará a los médicos, porque la información que maneja el médico es mucho más completa e integral. Pero sí puedo apoyar muchísimo en la revisión de los exámenes clínicos y de imágenes, por ejemplo”.
Guevara recalca que “a medida que vayan en aumento las bases de datos, con representación de todos los casos y condiciones, los algoritmos serán más robustos y con menos sesgos”.

Columna de @nicolucor en @ElMercurio_cl sobre la gran velocidad a la que avanza la IA. En Cenia somos conscientes de ello, y por eso trabajamos paralelamente en investigación, en desarrollo tecnológico, en cuestiones éticas y en actividades de divulgación para la comunidad 💪 https://t.co/ALvC3b6dIj

— CENIA – Centro Nacional de Inteligencia Artificial (@cen_ia) February 2, 2023

Mientras tanto, cada semana hay nuevas noticias sobre avances o lanzamientos. El 7 de febrero, por ejemplo, Google anunció Bard, un chat similar a ChatGPT (de Microsoft). En un primer momento solo estará disponible para un grupo de probadores de confianza.
El profesor Gutiérrez recalca que ante el trepidante avance de esta tecnología hay que informarse para conocerla y entenderla. “Tal como ocurrió con los buscadores como Google en su momento, debemos saber sus limitaciones y que la información debe ser corroborada. No es llegar, copiar y pegar”.