Chat GPT revuelca el mundo de la producción de conocimiento

Conforme continúan los avances técnicos y tecnológicos que ha presenciado el ser humano, las máquinas, robots y computadores han reemplazado puestos mecánicos de trabajo en empresas y han generado nuevos roles y cargos, más en línea de supervisión de esa máquina. Ya no se contratan personas para empacar un producto alimenticio porque es más costoso y menos eficiente. Y, como ese, se pueden enumerar varios ejemplos que, desde hace décadas, han venido aumentando.

Mientras eso pasaba, profesionales del pensamiento crítico, de carreras universitarias con posgrados o creativos veían lejos la posibilidad de que sus roles corrieran la misma suerte por la condición humana que plasman a sus funciones, la de pensar y producir conocimiento. Hasta que herramientas de inteligencia artificial (IA) como el Chat GPT, Midjourney, Dall-E, entre otras, han removido a dichos profesionales de su posición de comodidad.

La primera ha sido capaz de redactar artículos periodísticos, entregar ensayos académicos sobre cualquier rama de conocimiento, incluso casi aprueba un examen de isión para una facultad de Derecho de Estados Unidos que dejó preocupados a los profesores y directivos.

En septiembre de 2022, un participante de la Feria Estatal de Colorado, en EE. UU., ganó el concurso de bellas artes con una obra creada a partir de IA usando la herramienta Midjourney. Y artistas de California se unieron este año para demandar la empresa desarrolladora de Midjourney y otras por vulneración de los derechos de autor y propiedad intelectual.

Esta situación deja de presente la vulnerabilidad para la protección de derechos de propiedad intelectual, el aprendizaje en colegios y universidades, las dificultades para identificar qué es creado por un algoritmo que recibe unas instrucciones y qué es producción netamente humana. Eso sí, sin desconocer las ventajas y las bondades de la IA. The Conversation consultó con expertos en el tema para entender los desafíos que hay para los sectores artísticos, académicos y de producción del conocimiento.

(Lea: Prepárese: trabajos que desaparecerían o degradarían por inteligencia artificial).

“La profundidad de la experiencia humana que muestran los modelos de lenguaje grande como Chat GPT es notable. En solo minutos, pueden crear ilustraciones para presentaciones comerciales, generar argumentos para vender algo, dar ideas para superar el bloqueo de la página blanca o generar nuevo código informático para realizar funciones específicas, todo a un nivel de calidad típicamente atribuido a expertos, a humanos”, recalca Lynne Parker, vicerrectora asociada de la Universidad de Tennessee y directora de la Iniciativa IA en la misma institución.

Hasta ahí, Parker dibuja la IA como una herramienta prometedora, pero como experta reconoce sus desventajas. “En primer lugar, podría acelerar la pérdida de importantes habilidades humanas que seguirán siendo importantes en los próximos años, especialmente las de escritura. En segundo lugar, estas herramientas de IA plantean preguntas sobre la protección de propiedad intelectual”.

Para ella, la demanda de los artistas en California puede abrir una puerta a nivel jurídico para entender los límites de uso y la programación de algoritmos de la IA. Y en cuanto a la educación, invita a las instituciones a pensar en sentar unas bases y reglas sobre qué tanto se puede echar mano de estos modelos lingüísticos para trabajos, y crear frentes para identificar entregas académicas elaboradas con inteligencia artificial, que, sin un control a los derechos de autor, podría abrir otro problema, el plagio.

“Investigaciones recientes han demostrado que las herramientas de generación de imágenes a menudo plagian el trabajo de otros. ¿Sucede lo mismo con Chat GPT? Aún no lo sabemos. Podría estar parafraseando los datos con los que entrena, que es una forma avanzada de plagio. Y, del otro lado, en un estudio de mi laboratorio, se encontró que las herramientas de detección de plagio de texto están muy atrasadas cuando se trata de detectar paráfrasis”, comparte por su lado Daniel Acuña, profesor asociado de Ciencias de la Computación de la Universidad de Colorado Boulder.

(Más: Tecnología usada en 'Avatar' está revolucionando el diagnóstico de enfermedades).

Él, un asiduo de GitHub Copilot (que ayuda a escribir código informático) y de Chat GPT, ha identificado otros dos problemas. Las imprecisiones y los sesgos. “Con Copilot y Chat GPT estoy constantemente verificando si las ideas son demasiado superficiales, si es un texto sin mucha sustancia, o que plantea conclusiones o analogías incorrectas, o código ineficiente o que no se ejecuta. Si los s no critican lo que producen estas herramientas, estas son potencialmente dañinas”, puntualiza.

Sobre los sesgos, precisa que en texto es más difícil de reconocerlos, mientras que pasa lo contrario con las imágenes. Por ejemplo, se ha alertado de los sesgos de raza en el reconocimiento facial en celulares. Eso fue una discusión en 2019, en el Congreso de EE. UU., donde la demócrata Alexandria Ocasio-Cortez manifestó la preocupación de que los algoritmos identificaran más fácil los rostros de personas blancas que negras.

“Estas herramientas de IA están en su infancia, dado su potencial. Por ahora, creo que hay soluciones a sus limitaciones actuales. Por ejemplo, las herramientas podrían verificar el texto generado con las bases de conocimiento, usar métodos actualizados para detectar y eliminar sesgos de modelos de lenguaje grandes y ejecutar resultados a través de herramientas de detección de plagio más sofisticadas”, comparte como solución temporal Acuña.

(Siga leyendo: La historia de Casio va de un obrero japonés a más allá de la canción de Shakira).

“Si la historia sirve de guía, es casi seguro que los avances en IA harán que desaparezcan más empleos, que las personas de clase creativa con habilidades solo humanas se volverán más ricas, pero menos en número, y que aquellos que poseen tecnología creativa se convertirán en los nuevos megarricos”, predice Kentaro Toyama, profesor de Información Comunitaria de la Universidad de Michigan.

Toyama, viendo en perspectiva, asegura que nuevos empleos de supervisión de los algoritmos se crearán para las personas y modelos híbridos. “Piense en la fabricación: gran parte de ella hoy es realizada por robots, pero algunas personas supervisan las máquinas, y sigue habiendo un mercado para productos hechos a mano”, recalca el profesor de la Universidad de Michigan.

Entre lo positivo, hay otras consideraciones. Mark Finlayson, profesor asociado de Ciencias de la Computación de la Universidad Internacional de Florida, hace énfasis en los nuevos trabajos y habilidades que ofrece y democratizan herramientas de IA. Pone como ejemplo el elemento de curriculum vitae.

Casey Greene, profesor de Informática Biomédica del Campus Médico Anschutz de la Universidad de Colorado, explica mejor este caso sobre las hojas de vida y cartas de motivación para aspirar a un trabajo nuevo. “ ‘Escribir una carta de presentación para un trabajo’ produciría un resultado más genérico que ‘Escribir una carta de presentación para un puesto como especialista en entrada de datos’. El podría crear indicaciones aún más específicas pegando partes de la descripción del trabajo, el curriculum vitae y las instrucciones específicas, por ejemplo, ‘resaltar la atención al detalle’ ”.

¿Qué otros reparos habría sobre los modelos de escrituras grandes que se deben atender? Finlayson destaca principalmente el sentido común de los humanos que no tienen los algoritmos, por más billones de datos que analicen en minutos.

“Los modelos grandes de lenguaje no tienen una comprensión abstracta y general de lo que es verdadero o falso, si algo está bien o mal, y lo que es solo sentido común. En particular, no pueden hacer matemáticas relativamente simples. Esto significa que su resultado puede ser inesperadamente engañoso, sesgado, lógicamente defectuoso o simplemente falso”, comenta el docente de la Universidad Internacional de Florida.

En ese sentido, ofrece un panorama alentador en tanto no se van a reemplazar o acabar empleos en los sectores creativos y de producción de conocimiento por ahora, pues queda mucha tela para cortar para los desarrolladores de algoritmos.

(También: Juegos online: estos son los juegos online más esperados para el 2023).

“Para gran parte de la creación de contenido, incluso para el público en general, las personas seguirán necesitando el juicio de los creativos y de quienes se dedican a producir conocimiento humano para impulsar, guiar, cotejar, curar, editar y especialmente aumentar la producción de las máquinas. Muchos tipos de lenguaje especializado y altamente técnico permanecerán fuera del alcance de las máquinas en el futuro previsible. Y habrá nuevos tipos de empleo, por ejemplo, aquellos que harán un negocio ajustando modelos grandes de lenguaje internos para generar ciertos tipos especializados de texto para servir a mercados particulares”, augura Finlayson.

Aunque hay tranquilidad, su recomendación es que quienes están en dichos trabajos que se ven o se sienten amenazados deben empezar por adaptarse e integrar estas herramientas a su día a día, bien sea por curiosidad de explorar, obtener más eficiencia en sus resultados o por no quedarse atrás.

“Al igual que con muchos avances tecnológicos, la forma en que las personas interactúan con el mundo cambiará en la era de los modelos de IA ampliamente accesibles. La pregunta es si la sociedad utilizará este momento para promover la equidad o exacerbar las disparidades”, concluye Casey Greene.

THE CONVERSATION (*)

(*) Es una organización sin ánimo de lucro que busca compartir ideas y conocimientos académicos con el público. Este artículo es reproducido aquí bajo licencia de Creative Commons. Este artículo fue editado por EL TIEMPO por razones de espacio.