Desafíos éticos en uso de herramientas de Inteligencia Artificial como ChatGPT

En el último tiempo, se ha popularizado el uso de herramientas de Inteligencia Artificial (IA), el cual sorprende en cuanto a sus resultados, pero también en el uso cotidiano que podemos utilizarlas. Un ejemplo de ello ha sido el ChatGTP lanzado a fines del año pasado, por la OpenAI, con acceso abierto y gratuito, consistente es un modelo de lenguaje basado en IA. Es una red neuronal de gran escala entrenada en una gran cantidad de texto de internet para generar texto de manera autónoma. Es un modelo con más de 175 millones de parámetros, y entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje. Puede ser utilizado para tareas como la generación de texto, la respuesta a preguntas y la traducción automática.

Desde su apertura al uso, ha permitido a muchos usarlo por simple curiosidad, para conocer los límites de la IA, dar respuestas a consultas básicas, pero también para empezar a generar contenido que es utilizado en trabajos educativos, en trabajos de programación o incluso ha sido utilizado para generar herramientas que podrían afectar la ciberseguridad. Con sus respuestas es capaz de expresarte de manera natural y con información muy exacta, lo que hace muy complicado distinguir que el texto ha sido generado por IA. De hecho, el cofundador de Open AI, Sam Altman, dijo en Twitter a principios de diciembre que ChatGPT había superado el millón de usuarios.

OpenAI es una compañía de investigación de inteligencia artificial sin fines de lucro que tiene como objetivo promover y desarrollar inteligencia artificial amigable de tal manera que, según dicen, beneficie a la humanidad en su conjunto. La organización tiene como objetivo «colaborar libremente» con otras instituciones e investigadores al hacer sus patentes e investigaciones abiertas al público. Según se menciona, los fundadores están motivados en parte por las preocupaciones sobre el riesgo existencial de la inteligencia artificial general, pero eso no deja de lado el factor ético tanto en la tecnología como en su uso cotidiano.

Desde un punto de vista ético respecto a la tecnología misma, al usar un modelo de lenguaje como GPT, hay varios desafíos éticos que se deben tener en cuenta. Algunos de los principales desafíos incluyen:

  1. Base de información: Los datos de entrenamiento utilizados para entrenar a GPT pueden contener sesgos de género, raza y otros prejuicios. Esto puede resultar en respuestas sesgadas o poco precisas.

  2. Propagación de la desinformación: GPT puede generar contenido falso o engañoso si se le entrena con datos de desinformación.

  3. Invasión de la privacidad: al almacenar información personal de los usuarios, puede haber un riesgo de filtración de información personal, ya que GPT tiene acceso a gran cantidad de información personal.

  4. Problemas éticos en la automatización del trabajo: al automatizar tareas que antes eran realizadas por humanos pueden generar problemas éticos como pérdida de empleos, desequilibrio en la distribución de ingresos, entre otros.

Es importante tener en cuenta estos desafíos éticos al usar modelos de lenguaje como GPT y tomar medidas para minimizar los riesgos.

En el ámbito educativo ya se han comenzado a generar controversias en su utilización. Esto porque se le puede pedir (como ejemplos) que escriba artículos o resúmenes pudiendo pedirle un número máximo de caracteres o palabras explicando sucesos históricos, personajes famosos, dispositivos tecnológicos. También puedes pedirle que te escriba estos textos de una manera determinada. Por ejemplo, puedes pedirle que te haga un guión de YouTube o de TikTok para explicar estas cosas, que lo haga con un tono concreto como informal o más serio, o incluso que lo haga con las tonalidades de ciertas regiones. 

«También puedes pedirle líneas de código, fichas de especificaciones de productos, comparativas, etcétera. También puedes pedirle que te escriba poemas, chistes o letras de canciones. Puedes pedir que realice textos como si le hablara a un niño de 5 años, y en definitiva, cualquier cosa relacionada con el lenguaje o que pueda ser expresada a través de él.»

De hecho, en algunos lugares ya se están tomando medidas y regulando su uso.
Hace unos días, se informó que «las escuelas públicas de la ciudad de Nueva York prohibirán a los estudiantes y maestros usar ChatGPT

La medida se produce en medio de la creciente preocupación de que la herramienta, que genera respuestas inquietantemente convincentes e incluso ensayos en respuesta a las indicaciones del usuario, podría facilitar que los estudiantes hagan trampa en las tareas. A algunos también les preocupa que ChatGPT pueda usarse para difundir información inexacta.

«Debido a las preocupaciones sobre los impactos negativos en el aprendizaje de los estudiantes y las preocupaciones sobre la seguridad y precisión del contenido, el acceso a ChatGPT está restringido en las redes y dispositivos de las Escuelas Públicas de la Ciudad de Nueva York», dijo Jenna Lyle, subsecretaria de prensa de las escuelas públicas de Nueva York, en un comunicado.

Paralelamente el Distrito Escolar Unificado de Los Ángeles se movió para bloquear preventivamente el sitio en todas las redes y dispositivos en su sistema “para proteger la honestidad académica mientras se realiza una evaluación de riesgo/beneficio”.

Uno de los «inconvenientes» que se genera en su uso, es el concepto de «originalidad» (en sentido que el texto generado es único y distinto cada vez) y también la escasa o nula (hasta este momento) posibilidad de identificar que el texto fue generado por la IA.

Según mencionan algunos docentes: “En las formas más tradicionales de plagio, hacer trampa en Internet, copiar y pegar cosas, puedo ir y encontrar pruebas adicionales, pruebas que luego puedo utilizar para justificar alguna sanción. En este caso, no hay nada que pueda señalar y decir ‘Aquí está el material que tomaron’”.“Es realmente una nueva forma de un viejo problema en el que los estudiantes pagarían a alguien o conseguirían que alguien escribiera su trabajo para ellos”. “Esto es así solo que es instantáneo y gratis.”

 

En este mismo sentido, ya han salido algunas soluciones para detectar un texto de ChatGPT.
Así lo prometen algunas herramientas que indican que pueden discernir una creación humana de una de ChatGPT, siendo GPTZero una de ellas, la que supuestamente muestra mayores tasas de éxito de identificar texto de la IA en inglés, más que en español, por ejemplo.

Existe otras herramientas online, como AI content detector, que supuestamente identifica en forma de porcentaje las posibilidades de que el texto sea obra humana o, por el contrario, generado por IA. De hecho, exista la noticia de un profesor que usó esta tecnología y pudo comprobar que un trabajo entregado por una de sus alumnas, no había sido desarrollado por ella, sino que generado por IA. 

Según se informa en la nota, «pillan a una universitaria que usó inteligencia artificial para hacer un trabajo demasiado bueno». El profesor había encargado a sus alumnos de primer curso una redacción de 500 palabras sobre ‘Hume y la paradoja del horror’. Entre todos los trabajos que recibió, uno llamó poderosamente su atención por una razón: «Parecía escrito por un estudiante de último curso». La alumna que había entregado esa redacción empleaba expresiones y un lenguaje poco acorde a su edad y grado de conocimientos. Por eso, el profesor la llamó a su despacho y ella terminó reconociendo que había utilizado ChatGTP.

De todas formas, estos son casos aislados. Personalmente probé con un texto generado por IA, utilizando esta herramienta de AI Content Detector, pero lo identificó como si lo hubiera hecho un humano, lo que no es correcto.

Hay otras herramientas para detectar plagio de texto, pero frente a un análisis de un texto generado por ChatGPT no pasa la prueba con éxito.

Si la montaña no va a Mahoma, Mahoma va a la montaña.

Existe de todas maneras otra salida a la generación y uso de texto desarrollado por IA y es su reconocimiento y potenciar su utilización en forma controlada.

Una nota titulada «Hay profesores que ya están obligando a usar ChatGPT a sus alumnos: la IA puede ser la mejor aliada de la educación no su final«, menciona el caso de un profesor ha redactado un hilo en el que se ha explicado como integra ChatGPT en sus clases, y cómo otros docentes han apostado por este método. Uno de los sistemas usado, y que ha explicado, está centrado en la realización de redacciones que son generadas por la propia Inteligencia Artificial.

«En este caso, se trata de concienciar a los alumnos a introducir instrucciones precisas para obtener el resultado que está pidiendo el profesor para el ejercicio. De esta manera, se trata de concienciar de qué comandos hay que especificar a la hora de hablar con una IA como ChatGPT. Pero obviamente el profesor no quiere que se haga un copia y pega sin más, sino que puede servir como una base para seguir profundizando.

Con esta redacción que se ha redactado por la IA el estudiante va a tener que verificar que la información es correcta y que está bien fundamentado. Con esa guía, se deberá realizar un proceso de ampliación y profundización para tener un nuevo conocimiento verificado y sobre todo enriquecido. Para llegar a este punto, el profesor pide que en el anexo se introduzca una captura de pantalla de los comandos que se han introducido a la IA y su resultado, siendo obligatorio el uso».

El modelo educativo con uso de ChatGPT está muy bien desarrollado en la página de Lluís Codina.


 

Si uno considera que es necesario contar con una adecuada regulación, desde un punto de vista jurídico deberíamos tener la premisa que cualquier sistema de IA debe ser desarrollado y utilizado de manera segura y responsable.

Sin embargo, independiente de los avances técnicos para identificar el uso de estas herramientas, será siempre relevante tener en consideración el aspecto ético de su utilización. Es primordial que las tecnologías como ésta no generen discriminación, sesgos, una utilización malintencionada del sistema y poniendo el valor de la persona humana en primer lugar.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio