Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors

ChatGPT tras bambalinas

por | Feb 24, 2023 | 0 Comentarios

Entérate de SPES en Telegram:
https://t.me/spesetcivitas

(Ilustración de Markus Winkler, tomada de Unsplash)

Los procesadores de lenguaje de la familia GPT existen desde hace algunos años. GPT-3, por ejemplo, existe desde 2020, y es el antecesor directo de las serie GPT-3.5, a la que pertenece ChatGPT. Uno de los sucesos por los cuales los procesadores de lenguaje han alcanzado un lugar importante en el diálogo público fue la liberación, el 30 de noviembre del 2022, de ChatGPT para uso del público en general.

Hay varias razones por las que ese acceso público a procesadores de lenguaje ha causado preocupaciones. Varios colegas que dan clases en universidades o en preparatorias me han manifestado su inquietud por que “ahora los alumnos pueden pedirle al robot que les escriba el ensayo de las entregas finales”. Sabemos, incluso, que estos procesadores de lenguaje se han usado para responder preguntas de investigación a científicos y humanistas proporcionando los artículos más relevantes al respecto. Más aún, éste es un ejemplo de artículo de investigación reciente que se ha escrito en colaboración con ChatGPT: https://doi.org/10.1016/j.nepr.2022.103537.

Esto podría desvalorizar el trabajo de los humanistas e investigadores, pero no precisamente por culpa de los desarrollos tecnológicos. El impacto de la tecnología en la sociedad se debe a dos razones. Una, el hecho de que las tecnologías, por diseño, establecen una tendencia de uso: las escopetas nos inclinan más a usarlas para matar, y los estetoscopios nos inclinan más a usarlos para curar. Otra, que quisiera remarcar aquí, es la manera en que se presentan estas tecnologías en el discurso público.

La mayoría de los historiadores de la ciencia están de acuerdo en que el primer tratado de mecánica relevante en la historia son los Problemas mecánicos, que se atribuye a Aristóteles y se conjetura que fue escrito por Arquitas de Tarento. En las primeras dos páginas del tratado leemos una reflexión sobre cómo ocultar el mecanismo de una máquina causa un gran asombro, y cómo el asombro se disipa una vez que conocemos la explicación. Mucho del sensacionalismo en torno a la inteligencia artificial se basa en ese asombro. Es muy importante decir que, en el fondo, lo que sucede tras la interfaz de los procesadores de lenguaje son operaciones matemáticas: álgebra lineal y cálculo multivariado, junto con algunos procesos heurísticos.

La siguiente imagen es un resumen básico de la estructura de un modelo generador, como ChatGPT:Diagrama
Descripción generada automáticamente

La principal razón por la que muchas profesiones pueden desvalorizarse con los desarrollos de la Inteligencia Artificial se debe más a la falta de comprensión respecto de lo que estos modelos realmente hacen. Piénsese, además de la labor académica, en el diagnóstico médico o en otro tipo de profesiones que involucran el razonamiento a partir de la evidencia. Corremos el riesgo de ignorar que estos modelos no son sensibles a problemas que están más relacionados con la sensibilidad social y moral que con el mero cálculo. O, peor aún, que pueden ser diseñados para dar propaganda a ciertas ideas, o para inclinar la balanza del discurso público.

La siguiente imagen está tomada de un artículo escrito por A. Abid et al., “Persistent anti-muslim bias in Large Language Models” (doi.org/10.1145/3461702.3462624), y muestra la tendencia de GPT-3 a asociar al islam con violencia. Un  artículo sumamente importante en evaluar los riesgos sociales en los procesadores de leguaje es “On the dangers of Stochastic Parrots” (“Sobre los peligros de los cotorros estocásticos”, https://doi.org/10.1145/3442188.3445922), que le costó a uno de sus autores, Timnit Gebru, que lo corrieran de Google.

Gráfico, Gráfico de barras
Descripción generada automáticamente

La tecnología es fascinante, pero a veces por razones distintas a las que nos empuja a creer la propaganda. Quizás, los grandes desarrollos tecnológicos, en vez de a un estado de bienestar y de despreocupación en el que las máquinas y los robots hacen todo el trabajo que no queremos hacer los humanos, nos llevan más bien a una sociedad que exige mayor responsabilidad ciudadana y que exige un tipo de conocimiento que algunos han querido llamar ‘alfabetización digital’. La presencia de grandes desarrollos tecnológicos nos compromete a los ciudadanos a tener más conocimiento científico, y a ser más cautelosos sobre cuándo sí y cuándo no el uso de una herramienta es conveniente para todos, si queremos bogar por mejores sociedades.

Alberto Domínguez Horner

Alberto Domínguez Horner

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Entradas relacionadas

MDNMDN