Luz Montero, directora de Educación Continua UC, reflexiona sobre los dilemas éticos que plantea ChatGPT y otros generadores de lenguaje basados en inteligencia artificial.
“La aparición de sistemas de inteligencia artificial conversacional o “generativos”, como ChatGPT, Bing y otros plantea diversos dilemas éticos. GPT (Generative Pre-trained Transformer), de la empresa OpenAI, es una red neuronal de aprendizaje profundo, que puede generar contenido como si se tratase de un humano mediante la generación de lenguaje natural. Esta es sólo uno de varios softwares existentes, los cuales sólo seguirán creciendo y mejorando en los próximos años, por lo que llegaron para quedarse.
Eventuales resultados perjudiciales
Uno de los principales desafíos éticos es la responsabilidad de sus desarrolladores y propietarios en caso de que se produzcan resultados perjudiciales al utilizarlo. A medida que los sistemas de inteligencia artificial se vuelven más avanzados, se hace más difícil controlar completamente su comportamiento y predecir sus resultados.
Privacidad y uso de datos personales
Otro dilema es la privacidad y el uso de datos personales: estos sistemas recopilan gran cantidad de datos personales para mejorar su capacidad de respuesta, lo que plantea riesgos sobre el mal uso de estos datos, la poca claridad de si los usuarios han dado su consentimiento para su uso cada vez que lo utilizan, o el riesgo de que sean hackeados o utilizados para recopilar información de manera ilegal.
Discriminación
La discriminación también es un riesgo, ya que si bien podrían ayudar a reducirla, también podrían perpetuarla, ya que se basan en datos históricos y patrones existentes, lo que puede llevar a la perpetuación de estereotipos y prejuicios. Junto con esto existe el desafío de la inclusión y accesibilidad, ya que muchos de estos sistemas tienen un costo, lo que podría generar una mayor exclusión de aquellos grupos más vulnerables. Algunos proponen que los gobiernos u otros organismos subsidien estas tecnologías, de manera que sean realmente abiertas.
Transparencia y responsabilidad
La transparencia y la responsabilidad también son preocupaciones éticas importantes: se requiere que estos softwares sean transparentes en cuanto a cómo funcionan y en qué se basan sus decisiones.
Impacto educativo y derechos de autor
También preocupa su impacto a nivel educativo: surgen interrogantes como: ¿Nos ayudará realmente a lograr un mayor desarrollo humano, o nos haremos cada vez menos inteligentes y más dependientes? ¿Cómo prevenir el plagio y las faltas a la integridad académica? Entre otras interrogantes. En algunos lugares del mundo se ha prohibido que los escolares lo utilicen, pero eso es prácticamente imposible. Tendremos que aprender a enseñar apoyándonos en ellas, tal como lo hicimos antes con el ábaco, la calculadora, internet, etc.
Tampoco está poco claro el impacto que tendrá en temas de propiedad intelectual y derechos de autor. Si escribo un libro o programo un código utilizando Chat GPT: ¿A quien le pertenece?
Sustitución de trabajos humanos
Por último, la sustitución de trabajos humanos es otro dilema ético: estos sistemas sustituirán trabajos humanos en múltiples industrias. Esto plantea preocupaciones sobre cómo afectará esto a la economía y a la sociedad en general, así como a los derechos y la dignidad de los trabajadores que pierden sus trabajos, lo que hace muy relevante la formación permanente de los trabajadores, en lo que se le llama “reskilling y upskilling”.
En resumen esto recién comienza…”
Nota: Este artículo se realizó con el apoyo de ChatGPT, y se publicó originalmente en bioeticalab.uc.cl. Solo se han agregado subtítulos.
