EL ENSAYO ACADÉMICO

¿En Qué Medida La IA Afecta En La Ética Del Investigador Para La Creación De Conocimientos Académicos?

            La Inteligencia artificial es una herramienta que cada vez se hace más presente en los trabajos de investigación, debido a los algoritmos que utiliza para resolver tareas complejas y permitir un uso eficaz del tiempo. Sin embargo, esta herramienta también se ha prestado para usos indebidos provocando trabajos deficientes. Es decir, la inteligencia artificial compromete negativamente la calidad de nuevo conocimiento académico porque afecta a la ética del investigador. 

            Para defender nuestra tesis, nuestro trabajo se dividirá en 7 partes, que a su vez están divididos en 17 párrafos. Primero explicaremos como la IA recopila y analiza los datos. En segundo lugar, veremos la influencia de la inteligencia artificial en la investigación. Tercero, veremos los cambios en la relación entre el investigador y la IA -su dependencia y responsabilidad-. En cuarto lugar, mostraremos los riesgos de plagio y la falta de originalidad. Quinto, analizaremos los argumentos en contra y los analizaremos desde una perspectiva crítica para refutarlos. En sexto lugar daremos recomendaciones que apoyen a la ética del investigador. Por último, en la conclusión haremos un llamado a la reflexión sobre la ética en la investigación con IA.

            La Inteligencia Artificial permite la automatización en la recopilación de datos, lo que permite una mayor eficiencia en el uso de tiempo al momento de realizar una investigación. A este ejemplo podemos incluir motores de búsqueda como Bing que utiliza tecnología gpt-4, pues ya no solo recopila datos, también los analiza para dar respuestas complejas que quiera el usuario. 

            Pero, ¿Cómo es la inteligencia artificial capaz de diferenciar la información que se le pide y analizarla? Esto se debe al método de aprendizaje que posee la inteligencia artificial, llamado Machine Learning. Esto le permite analizar, aprender y mejorarse fuera de lo ya programado o de forma supervisada por un humano, procurando mejorar sus algoritmos para dar mejores resultados al diferenciar y analizar información (Sanchez, 2020). Claro que en la palabra “mejora” es donde se encuentra el problema, porque los datos que ofrece la IA no son del todo exactos y pueden equivocarse (OpenIA, s.f).

            Los algoritmos de inteligencia artificial, entonces, desempeñan un papel significativo en la elección de enfoques de investigación en diversas disciplinas. Porque la IA agiliza y perfecciona el procesamiento y análisis de grandes volúmenes de datos, permitiendo a los investigadores detectar patrones, tendencias y relaciones que de otro modo podrían pasar inadvertidos, lo que influye en la selección de áreas de investigación y preguntas de estudio. Es imperativo que los resultados de los algoritmos de IA sean transparentes y comprensibles, permitiendo explicar cómo se obtuvieron, lo cual es esencial para la rendición de cuentas y decisiones éticas. La identificación y mitigación de sesgos en los datos y algoritmos de IA es esencial para una interpretación ética que evite resultados injustos o discriminatorios.

            Como señalamos antes, la IA puede procesar eficientemente grandes conjuntos de datos, automatizar tareas repetitivas, mejorar la búsqueda de información y crear modelos y simulaciones para probar hipótesis en diversas disciplinas. Debido a estos beneficios que nos brinda, la humanidad ha empezado a sufrir una dependencia de la inteligencia artificial en la investigación, la cual plantea desafíos éticos y de calidad, como la interpretación adecuada de los resultados de los modelos de IA y la garantía de integridad y ética en la recopilación y uso de datos. Confiar en exceso en la inteligencia artificial para llevar a cabo tareas rutinarias y cognitivas podría resultar en la pérdida de habilidades y conocimientos que antes eran considerados fundamentales: esta situación podría plantear problemas en situaciones que requieran un razonamiento humano crítico. La falta de comprensión y control sobre el funcionamiento de los algoritmos puede llevar a que las personas se sientan impotentes o desconfiadas en relación con las decisiones que toman. La automatización de tareas creativas, como la generación de contenido artístico o literario, podría tener el efecto de restringir la expresión humana y la diversidad cultural. Delegar estas decisiones cruciales plantea interrogantes éticas sobre quién debe asumir la responsabilidad cuando dichas decisiones resultan en perjuicio o injusticia. Por ende, la aplicación de la IA en la investigación debe llevarse a cabo con cuidado y reflexión. (Gonzáles, 2021, p.149-151)

En cuanto a responsabilidad, los investigadores deben considerar las implicaciones éticas de sus algoritmos, documentar claramente su funcionamiento y esforzarse por evitar sesgos injustos en los datos y el diseño del algoritmo. El monitoreo constante del rendimiento de los algoritmos y el cumplimiento de regulaciones y leyes aplicables son fundamentales. La comunicación efectiva de resultados y limitaciones a las partes interesadas y la garantía de la seguridad de los algoritmos son elementos esenciales. También se debe evaluar y mitigar posibles efectos negativos en la sociedad y considerar el impacto a largo plazo. Los investigadores en IA deben actuar de manera responsable, ética y transparente para asegurar que sus algoritmos beneficien a la sociedad en general y minimicen los riesgos involucrados.

            Es importante tener en cuenta que actualmente el acceso a la inteligencia artificial se ha vuelto más accesible. Sin embargo, esto ha llevado a que algunas personas la utilicen para realizar sus trabajos académicos sin respetar la ética, con el único propósito de obtener una buena calificación. Esto ha llevado a la creación de mecanismos de defensa contra el plagio, ya que el acto de plagio es considerado un delito, donde se utiliza información de otros autores sin darles el reconocimiento correspondiente a través de cita. Así, todos debemos evitar y combatir el plagio, porque es equivalente a negarnos a pensar por nosotros mismos; porque esa es una actitud que retrasa el progreso del conocimiento de la humanidad; porque, con ello, se niega la esencia misma del trabajo universitario; y porque es profundamente inmoral (Pontificia Universidad Católica del Perú, p.2). Por lo mencionado anteriormente es fundamental tener cuidado y ser conscientes de las consecuencias del plagio. Según el artículo 219 del código penal, en Perú, el plagio puede ser sancionado con una pena de 4 a 8 años de cárcel, además de una multa de hasta 180 días (Código Penal del Perú, 2023, p. 479). Por lo tanto, es importante desarrollar nuestro propio criterio y valorar nuestras propias ideas, y en caso de utilizar información de otras fuentes, se debe atribuir el reconocimiento correspondiente.

            Existen argumentos a favor del uso de la inteligencia artificial basados en sus beneficios. Ellos señalan que se trata de una herramienta poderosa en la investigación porque puede mejorar significativamente la eficiencia y productividad en este ámbito. La inteligencia artificial definitivamente ofrece un valor significativo en la investigación académica en diversas áreas, como la educación, la comunicación científica y la docencia universitaria, permitiendo automatizar tareas administrativas y repetitivas, lo que libera tiempo y recursos para que los investigadores puedan enfocarse en actividades más creativas y analíticas. 

            La UNESCO (2019) reconoce específicamente las capacidades de la IA para abordar desafíos en educación y el desarrollo de prácticas de enseñanza y aprendizaje; la IA tiene el potencial de ofrecer retroalimentación inmediata y personalizada a los estudiantes, a través de sistemas de aprendizaje automatizado, donde identifica las fortalezas y debilidades de cada estudiante, proporcionando retroalimentación inmediata y una experiencia de aprendizaje adaptada a su nivel y estilo de aprendizaje. Esto ayuda a optimizar la eficiencia en el desarrollo de habilidades académicas y reduce la brecha entre los diferentes niveles de conocimiento; asimismo, proporciona ayuda en la estructuración de artículos de investigación, y a los profesores a adaptar sus métodos de enseñanza de manera más precisa. Esto es especialmente relevante en un mundo cada vez más digitalizado, donde la educación y la investigación a distancia están ganando importancia.

            Otros de los beneficios más destacados de la IA en la generación de conocimiento es su capacidad para potenciar la creatividad y la innovación. Con algoritmos generativos avanzados, la IA puede explorar nuevas ideas y enfoques que antes solo se consideraban posibles para los seres humanos con habilidades creativas. Esto puede llevar a la generación de contenido nuevo y único, enriqueciendo la investigación y ampliando el horizonte de conocimiento. Esto no implica que la IA supere la creatividad humana, sino que puede complementarla y abrir nuevas posibilidades en la generación de conocimiento.

            Pero ahora siendo más críticos, la aplicación de la IA en la investigación académica, como el señalado por el director Pablo Gervás en relación a la diferencia fundamental entre las máquinas y los seres humanos en términos de habilidades y conocimientos interconectados, no pretende reemplazar la mente humana, sino servir como una herramienta valiosa en el proceso de investigación. Gervás señala que “hay que explicar a la gente que las máquinas no son como nosotros, que tenemos muchas habilidades y sabemos cómo combinarlas, cambiar de una a otra, etc.” (Gervás, s.f, como se citó en Paniagua, 2018). El investigador no puede relegar su responsabilidad ética a la inteligencia artificial, por más tareas complejas que esta pueda realizar. Es importante reconocer las limitaciones y riesgos asociados con la utilización de la IA en la investigación académica. Por ejemplo, la IA puede estar sesgada si los algoritmos utilizados se entrenan con datos sesgados o incompletos. Esto puede afectar negativamente la calidad de los resultados y las conclusiones extraídas. Además, la IA puede carecer de la intuición y comprensión humana necesaria para interpretar contextos complejos o sutilezas en la información. A pesar de las limitaciones y riesgos mencionados, es importante resaltar que la IA es una herramienta y no un sustituto de la inteligencia humana. Los investigadores siguen siendo los responsables de tomar decisiones críticas, interpretar los resultados y contextualizar el conocimiento generado por la IA. Además, se pueden implementar métodos para asegurar la transparencia y equidad en el desarrollo y uso de la IA en la investigación académica, como verificar y auditar los algoritmos utilizados y contar con controles de calidad rigurosos.

            Como ya hemos menciona, la inteligencia artificial ha irrumpido en el mundo de la investigación académica, ofreciendo herramientas poderosas para analizar datos, automatizar tareas y acelerar el proceso de descubrimiento. Sin embargo, esta revolución tecnológica no está exenta de desafíos éticos que puedan comprometer la calidad de nuestra investigación. En este contexto hay algunas recomendaciones que se pueden seguir para usar la inteligencia artificial de la mejor manera posible. La transparencia y responsabilidad es lo principal a tener en cuenta al momento de utilizar la inteligencia artificial, los investigadores y las instituciones académicas deben priorizarlas en el uso de IA en la investigación. Esto implica documentar claramente cómo se aplican los algoritmos, cómo se recopilan y procesan los datos, y cómo se llega a las conclusiones. Además, es esencial establecer mecanismos de rendición de cuentas para garantizar que los investigadores sean responsables de cualquier sesgo o error que surja de la IA. A su vez, antes de utilizar la IA en investigaciones, se debe llevar a cabo una evaluación ética rigurosa para identificar posibles riesgos y beneficios. Esta evaluación debe abordar cuestiones como la privacidad de los datos, la equidad en los resultados y las posibles consecuencias negativas para las partes involucradas. Lo anterior mencionado no se puede lograr sin una supervisión continua en la que los investigadores deben comprometerse a una supervisión constante de los algoritmos de IA utilizados en sus investigaciones. Esto asegurará que estos algoritmos sigan siendo éticos y precisos a medida que evoluciona la tecnología y se obtienen nuevos datos. La supervisión continua implica la detección de sesgos y errores, y su corrección inmediata para garantizar la confiabilidad de los resultados.

            En esta investigación, hemos explorado la creciente presencia de la inteligencia artificial en la investigación académica y hemos planteado la tesis de que la inteligencia artificial compromete negativamente la calidad del nuevo conocimiento académico debido a su impacto en la ética del investigador. En nuestra conclusión, recapitularemos los argumentos clave que respaldan esta afirmación, confirmaremos la tesis y haremos un llamado a la reflexión sobre la ética en la investigación con inteligencia artificial.

            La inteligencia artificial ha revolucionado la forma en que se recopilan y analizan los datos en la investigación académica. Al permitir la automatización en la recopilación de datos y el procesamiento eficiente de grandes conjuntos de información, la IA ha demostrado ser una herramienta valiosa que agiliza la investigación y potencia la creatividad y la innovación. Sin embargo, esta dependencia creciente de la IA conlleva desafíos éticos y de calidad. La transparencia en los resultados, la identificación y mitigación de sesgos, la responsabilidad en la toma de decisiones y la consideración de los impactos a largo plazo son cuestiones fundamentales que deben abordarse.

            Hemos analizado los riesgos que surgen de una excesiva dependencia de la IA en la investigación, como la pérdida de habilidades humanas, la posibilidad de resultados sesgados y la preocupación por la privacidad y la seguridad de los datos. Estos riesgos subrayan la importancia de utilizar la IA de manera responsable y ética, asegurando que los investigadores sigan siendo los responsables de tomar decisiones críticas y contextualizar los conocimientos generados por esta tecnología. 

En contraposición a los beneficios que ofrece la IA en la investigación, hemos discutido argumentos en contra que destacan la diferencia fundamental entre las máquinas y los seres humanos en términos de habilidades y conocimientos interconectados. La IA no pretende reemplazar la mente humana, sino complementarla y mejorar la eficiencia en el proceso de investigación, por lo que el investigador todavía tiene responsabilidades éticas en la investigación. 

            En última instancia, nuestro llamado a la reflexión es claro: la ética en la investigación con inteligencia artificial es esencial. Los investigadores deben ser conscientes de las implicaciones éticas de sus algoritmos, documentar claramente su funcionamiento y esforzarse por evitar sesgos injustos en los datos y el diseño del algoritmo. La responsabilidad y la transparencia son elementos fundamentales. Además, se deben establecer regulaciones sólidas en el desarrollo y uso de la IA, y la educación y concienciación pública sobre los riesgos y beneficios de la IA son vitales.

            La utilización de la inteligencia artificial en la investigación académica presenta perspectivas prometedoras y beneficios potenciales. Sin embargo, es fundamental evaluar críticamente cada argumento, considerar las limitaciones y riesgos asociados y buscar soluciones para garantizar una utilización ética y responsable de la IA en la generación de conocimiento. A través de un enfoque equilibrado y reflexivo, es posible aprovechar al máximo las ventajas que la IA puede ofrecer en el ámbito académico. No obstante, es importante recordar que la IA no es una solución definitiva y sigue siendo necesario un enfoque decisivo y humano para garantizar la calidad y la ética en la investigación.

Autor: Grupo 7

Referencias:

García, C y Arcos, M (Ed.). (2023). Código penal. Juristas editores.

Gonzáles, D. (2021). DEUS EX MACHINA: LA INTELIGENCIA ARTIFICIAL EN EL

FUTURO DEL SER HUMANO. Universidad Pontificia de Salamanca. https://summa.upsa.es/high.raw?id=0000144496&name=00000001.original.pdf

La Inteligencia Artificial en la Educación. (2019, diciembre 9). UNESCO. https://es.unesco.org/themes/tic-educacion/inteligencia-artificial  

OpenAI. (s.f). Condiciones de Uso. Recuperado el 20 de octubre de 2023.

https://openai.com/policies/terms-of-use

Paniagua, E. (2018, noviembre 4). Los grandes expertos que son escépticos sobre la inteligencia artificial: del “es puro marketing” al “no ha avanzado en 30 años”. Xataka. https://www.xataka.com/robotica-e-ia/grandes-expertos-que-escepticos-inteligenciaartificial-puro-marketing-al-no-ha-avanzado-30-anos 

Pontificia universidad Católica del Perú. (2016). ¿Por qué y cómo debemos combatir el plagio?. Portal de revistas PUCP. https://www.pucp.edu.pe/documento/por-que-y-comodebemos-combatir-elplagio/#:~:text=Todos%20debemos%20evitar%20y%20combatir,y%2C%20porque%20e s%20profundamente%20inmoral

Sánchez, J. (2020). ¿Cómo aprenden las máquinas? Machine Learning y sus diferentes tipos.

datos.gob.es. https://datos.gob.es/es/blog/como-aprenden-las-maquinas-machinelearning-y-sus-diferentes-tipos

Bibliografía: 

García, C y Arcos, M (Ed.). (2023). Código penal. Juristas editores.

Gonzáles, D. (2021). DEUS EX MACHINA: LA INTELIGENCIA ARTIFICIAL EN EL

FUTURO DEL SER HUMANO. Universidad Pontificia de Salamanca. https://summa.upsa.es/high.raw?id=0000144496&name=00000001.original.pdf  

La Inteligencia Artificial en la Educación. (2019, diciembre 9). UNESCO.

https://es.unesco.org/themes/tic-educacion/inteligencia-artificial  

Masís, R. Murillo, A. (2023) Voz experta: Inteligencia artificial y su uso en la docencia e investigación universitaria.  San Pedro, Costa Rica: Universidad de Costa Rica.

https://www.ucr.ac.cr/noticias/2023/8/22/voz-experta-inteligencia-artificial-y-su-uso-enla-docencia-e-investigacion-universitaria.html

Montoya, C. (2023). Beneficios simples de la inteligencia artificial Generativa. Linkedin.com.

https://es.linkedin.com/pulse/beneficios-simples-de-la-inteligencia-artificial-claudiamontoya  

OpenAI. (s.f). Condiciones de Uso. Recuperado el 20 de octubre de 2023.

https://openai.com/policies/terms-of-use

Paniagua, E. (2018, noviembre 4). Los grandes expertos que son escépticos sobre la inteligencia artificial: del “es puro marketing” al “no ha avanzado en 30 años”. Xataka. https://www.xataka.com/robotica-e-ia/grandes-expertos-que-escepticos-inteligenciaartificial-puro-marketing-al-no-ha-avanzado-30-anos 

Pontificia universidad Católica del Perú. (2016). ¿Por qué y cómo debemos combatir el plagio?. Portal de revistas PUCP. https://www.pucp.edu.pe/documento/por-que-y-comodebemos-combatir-elplagio/#:~:text=Todos%20debemos%20evitar%20y%20combatir,y%2C%20porque%20e s%20profundamente%20inmoral

Sánchez, J. (2020). ¿Cómo aprenden las máquinas? Machine Learning y sus diferentes tipos.

datos.gob.es. https://datos.gob.es/es/blog/como-aprenden-las-maquinas-machinelearning-y-sus-diferentes-tipos