Por Victor Serge

El 30 de Noviembre pasado se lanzó gratis, por tiempo limitado y a todo el público con internet una divertida e impresionante herramienta llamada Chat GPT. Es un chat bot, o sea, una máquina para “conversar” mediante un chat virtual y que responde preguntas o hace, dentro de sus límites, cosas que le pidas. Puedes pedirle que resuma textos, que te hable de variados temas como entretenimiento, deportes o tecnología, videojuegos, literatura o filosofía. Puede programar código computacional (aunque a menudo lo hace mal y sólo reteniendo la apariencia de código funcional) y ayudar a encontrar problemas en tus propios programas (con explicaciones incluídas). 

En el medio Vox Rebecca Heilweil reporta que la máquina ha sido capaz de dar respuestas de examen escolar con mejor desempeño que el promedio de estudiante. Esto ha llevado a algunos a pensar que va a dejar obsoleto el ensayo escolar y métodos similares tradicionales de evaluación (para los estudiantes interesados en hacer trampa, les advertimos que la misma empresa tiene medios para ofrecer verificación, o sea, cachar si un texto fue hecho con Chat GPT o por un computador o no; los van a pillar chanchitos así que hagan su tarea). Otros reparan (Christ Stokel-Walker para Nature) en que esto hará que los profesores se adapten y pidan más de los estudiantes en creatividad y habilidades más profundas de razonamiento.

Puede llegar a ser bastante preciso, claro y elocuente, imitando bien a un hablante competente del lenguaje (aunque con reparos, porque a veces la imitación es, como insistimos aquí, superficial y errónea). Se ha llegado a decir que es un gran desarrollo, revolucionario y novedoso para la inteligencia artificial. En el caso de las premoniciones más exaltadas, se dice que traerá una aceleración brutal hacia la automatización del trabajo y el riesgo asociado de que perdamos nuestras pegas. Otros no están muy impresionados y recuerdan incluso a otro chatbot ochentero que imitaba a un terapeuta llamado ELIZA y que, a pesar de lo considerablemente simplona y limitada que era como máquina “inteligente”, dejó´impresionada a mucha gente (de ahí el llamado “efecto ELIZA”, que bien podría ser lo que hay detrás del ingeniero de Google que pensó que estaba frente a una máquina consciente usando la tecnología LaMDA). Las personas llegaron a llamar por montones para poder hablar con la máquina. Algunos tienen reacciones muy positivas sobre todo esto, otros más negativas y escépticas. ¿A quién creerle? Aquí te contamos parte de lo esencial. Para hacer este reportaje vamos, como otros han hecho, a usar la máquina misma para relatar de qué se trata todo el asunto.

¿Qué es Chat GPT, de acuedo a  Chat GPT (y según nosotros)?

ChatGPT es un modelo de lenguaje de OpenAI desarrollado para tener conversaciones con personas a través de chat. Alimentado con una gran cantidad de datos de conversaciones humanas, ChatGPT ha sido entrenado para responder de manera coherente y natural a una variedad de preguntas y comentarios.

Uno de los aspectos más impresionantes de ChatGPT es su habilidad para mantener una conversación sobre una amplia gama de temas. Aunque es especialmente bueno en temas de entretenimiento y noticias, también puede tener conversaciones informativas y educativas sobre ciencia, tecnología, historia y mucho más. Además, ChatGPT es capaz de adaptarse y evolucionar a medida que se le presentan nuevos temas y conceptos.

Otra de las ventajas de ChatGPT es que puede interactuar con los usuarios de manera natural y fluida. Su respuestas suelen ser coherentes y lógicas, y puede seguir el hilo de una conversación de manera muy similar a como lo haría una persona. Esto lo convierte en una herramienta útil para empresas y organizaciones que deseen utilizar chatbots para interactuar con sus clientes o usuarios, entre otras cosas.

La máquina es bien interesante y un buen juguete para entretenerse. ¿Pero qué tan buena es como herramienta? Creo que hasta ahora es bastante útil, pero hay que ponerle paños fríos al asunto. La máquina se equivoca a menudo en captar algunas relaciones lógicas, confunde cosas que no van juntas, o no logra identificar todo lo que tiene más importancia en algunos textos. De acuerdo al crítico Ian Bogost para The Atlantic insiste en que “Chat GPT es más tonto de lo que piensas”, haciendo eco del escepticismo de algunos expertos en inteligencia artificial sobre la inteligencia que puedan exhibir máquinas computacionales (llegando a considerarse máquinas en el fondo, tontas aunque simplemente tengan la capacidad de masticar números por montones -logrando cosas que nosotros solo lograríamos con harta inteligencia). 

Si bien la tecnología actual que usan las llamadas “redes neurales artificiales” tiene algunas propiedades interesantes y flexibles que no tiene la “computación clásica” (al imitar algunas propiedades del cerebro y permitir ciertas formas de aprendizaje asistido por personas). Y que se han logrado cosas bastante impresionantes con ellas, como mejorar la tecnología de traducción automática, reconocimiento facial, procesamiento, creación y modificación de imágenes, de música y obras visuales de calidad, etc. Pero ni todo esto quiere decir que estamos a poco de descubrir una máquina que nos alcance en inteligencia o incluso que nos supere, que adquiera conciencia o motivaciones propias, etc. y que con ello cambie radicalmente el futuro de la humanidad para siempre casi como la segunda venida de Cristo para los nerds. 

¿Realmente…?

Pero en realidad eso está por verse, y hay un escepticismo sobre eso en buena parte de la comunidad de investigadores del tema pues, como reparan algunos, parece que bien se necesitaría crear un organismo biológico vivo entero para producir las capacidades completas que tenemos los humanos (y si es que). Es cierto que una máquina computacional te va a ganar siempre jugando ajedrez a menos, quizás, que seas un jugador experto o más brígido que yo que soy pésimo y me da lata. Pero que puedan hacerlo no quiere decir que vayan a tener la creatividad o la autonomía necesaria para actuar tanto más allá de lo que están hechas para lograr (o para ir aprendiendo dentro de ciertos marcos acotados, con recompensas o metas que los ingenieros o investigadores ponen).  Y si bien todo esto le pone paños fríos al asunto, es cierto que desde antes se proyectaba que en las próximas décadas se viene una ola gigante de automatización que sí amenaza con desplazar a los trabajadores manuales y de servicios con más y más fuerza, hasta incluso llegar a reemplazar a la mayoría de ellos en cosa de algunas décadas (de acuerdo a un estudio en la Oxford University reportado el 2013, ya en ese entonces la mitad de los empleos en EEUU eran “vulnerables a la computarización”).

Para esa eventualidad ya hay propuestas para repartir la las lucas que se saquen y no permitir que la gente caiga en la miseria porque, obviamente, si no igual se armaría el tremendo quilombo en las calles y en todos lados.

Ian Bogost como crítico tecnológico, además de otros autores (incluyendo expertos en el área), han hecho, entre todos, numerosas pruebas para mostrar los límites y torpezas que la máquina tiene, e incluso el entusiasta reporte del difusor tecnológico Dot CSV en YouTube repara en que una máquina que pueda dar, en un buen escenario, 8 de 10 respuestas correctas igual nos dejará expuestos a comprar cualquier pomada que diga en las otras 2. Bogost, para The Atlantic, repara en que si la máquina es (relativamente) tan buena para reproducir tanta expresión humana, que suena humana y que a menudo es informativa y útil, también es porque mucho de lo que hacemos con el lenguaje es más trillado, repetitivo, mecánico y una máquina que reciba mucha información de nosotros hablando podrá simular mucho de eso de todas maneras. 

En nuestras relaciones cotidianas también comunicamos cosas que son muy acotadas, prácticas, o derechamente mula (bullshit), charlatanería o habladuría superficial o vacía, información no verificada, en fin. Por eso, de ahí a que esto escale a algo tanto mayor está por verse. Que esta tecnología vaya a revolucionar la educación y hacer periodismo “es una conclusión fácil para quienes asumen que la Inteligencia Artificial tiene como propósito reemplazar la creatividad humana en lugar de mejorarla.” En la línea de lo que dice Bogost, este artículo fue asistido por Chat GPT en su redacción y resumen de textos, pero tuvo que ser editado y redactado mayoritariamente por un humano para crear una pieza decente de periodismo. Con el tiempo puede que estas herramientas sean tanto mejores, pero tampoco implica que vaya a reemplazar la creatividad humana y lograr simplemente todo lo que hacemos nosotros sin más.

Obviamente para Bogost el entusiasmo por ChatGPT es el manso tejo pasado, una exageración un tanto fanática o digna de ciencia ficción. Insiste (como el mismo ChatGPT reconoce cuando le preguntas sobre sí mismo) en que carece de la capacidad de comprender verdaderamente la complejidad del lenguaje humano y la conversación. Solo está entrenado para generar palabras en base a los datos que le entregan, pero no tiene la habilidad de comprender el verdadero significado detrás de esas palabras. Las respuestas de ChatGPT, aunque fluidas y persuasivas como texto, son consistentemente aburridas como prosa, que son “formulaicas” y que por lo mismo carecen de estilo o gracia. 

A pesar que sí se puede decir es que, incluso con todos estos reparos, la cosa está interesante y jugosa. Con estas herramientas ya se puede, por ejemplo, decirle a un documento de Word que te borre todas las sangrías o espacios sobrantes entre palabras sin que tengas que hacerlo uno por uno, y con tecnologías similares ya se ha logrado conversar con una inteligencia artificial sobre imágenes o fotos (¡Conversaciones enteras comentando obras de arte!). Cosas que solo harías sabiendo programar software se podrán hacer simplemente diciéndole en voz alta o dando instrucciones en el teclado a la máquina, en lenguaje natural, común y corriente.

Más atados…

Con todo lo bueno y lo malo, entre otros problemas que tiene la máquina también está lo que le llaman “sesgo algorítmico”, que es cuando estas máquinas dan respuestas discriminatorias (incluso de manera bien fea, como la que llegó a hablar bien de Hitler y decir cosas horrendas en Twitter) debido a los sesgos que, a menudo por descuido o dificultad, los creadores de la máquina meten en ella mediante los textos o contenido con la que la alimentan. Para The Intercept, Sam Biddle ha acusado a Chat GPT de ser capaz de replicar el «racismo estilo ‘Guerra contra el terrorismo’ más feo» y de mostrar sesgos raciales asociados. Según un artículo de The Intercept, las respuestas de ChatGPT a las preguntas han incluido sugerencias de que ciertas personas han de ser candidatas a ser torturadas según su nacionalidad. 

OpenAI ha afirmado que ha tomado medidas para filtrar las respuestas prejuiciosas, pero también ha reconocido que a veces pueden generarse respuestas indeseables a pesar de las medidas tomadas (para lo cual llaman a los usuarios a reportar). El artículo plantea preocupaciones sobre la posibilidad de que la IA perpetúe los sesgos y perpetúe puntos de vista perjudiciales, y pide mayor transparencia y responsabilidad en el desarrollo y uso de las tecnologías de IA. Esto, a su vez que denuncia a empresarios que no quieren que se regule porque supuestamente sería una limitación a la libertad. El problema es que Chat GPT también puede usarse para hacer virus computacionales o ayudar a cometer fraude. 

¿Le daremos el mejor uso posible a esta tecnología? ¿Se abusará también de ella? ¿Tendrá algún día estadio la U? La búsqueda continúa.

Si quieres una introducción accesible a la inteligencia artificial y su filosofía, te recomendamos el clásico de Jack Copeland: Inteligencia Artificial. Una Introducción Filosófica