EDITORIAL
10.57201/ieuna2424939
Sección: Editorial
*Autor
correspondiente:
jmsilvero@rec.una.py
Editor de área:
Griselda
Meza 
, Universidad
Nacional de Asunción (UNA). Centro Multidisciplinario de Investigaciones
Tecnológicas. San Lorenzo, Paraguay.
Recibido:
12 de diciembre de 2024
Revisado:
16 de diciembre de 2024
Aceptado:
17 de diciembre de 2024
Recibido
en versión modificada:
17
de dicembre de 2024
Este es un artículo publicado en acceso abierto bajo
una Licencia Creative Commons “CC BY 4.0”. 
Declaración de conflicto: Los
autores declaran no tener conflicto de intereses.
e-ISSN
2709 -0817
Como citar:
Silvero Arévalos, J. M. y Meza Ocampos, G. A. (2024).
Editorial. Revista investigaciones y estudios – UNA, 15(2), pp. 1-4.
Algunos
desafíos éticos, académicos y políticos de la Inteligencia Artificial (IA)
Some
ethical, academic and political challenges of Artificial Intelligence (AI)
José Manuel Silvero Arévalos*
y Griselda Asunción Meza
Ocampos2
1Universidad
Nacional de Asunción. Dirección General de Investigación Científica y
Tecnológica. San Lorenzo, Paraguay.
2Universidad
Nacional de Asuncion. Centro de Investigaciones Tecnologicas. Dirección General
de Investigación Científica y Tecnológica. San Lorenzo, Paraguay.
Hace
dos años, con la irrupción de la inteligencia artificial generativa, la
humanidad comenzó a experimentar la euforia de contar con una herramienta
poderosa y sumamente accesible (ChatGTP, 2022). Nunca antes en la historia de
la tecnología, una herramienta ha resultado tan fácil de ser utilizada. Aunque
la mayoría de los usuarios no comprendan con detalles el funcionamiento,
alcance, riesgos y peligros, su uso rápidamente transformó empresas, empujó a
los gobiernos a deliberar sobre la gobernanza, y por supuesto, dotó al mundo
académico de muchas posibilidades inéditas (Robles Carrillo, 2024).
Muchos investigadores y científicos de diferentes áreas y
especialidades, están experimentando enormes cambios, muy alentadores, a raíz
de todas las potencialidades que las nuevas herramientas ofrecen (Maarten y
Savona, 2024). No obstante, en la actualidad, la idea misma de tecnología y su
alcance se ha visto sometida a un enorme debate en función a la emergencia y
popularización de la IA y sus múltiples usos (Filgueira, 2023).En ese sentido,
se impone la necesidad de reevaluar el sentido y alcance conceptual, pues, los
criterios que usualmente se desplegaban para identificar, caracterizar y
evaluar una herramienta, hoy han quedado desfasadas. Los avances, las
prestaciones y los resultados que están ligados hoy día a las tecnologías
disruptivas, son notoriamente asombrosas. Ante esta constatación, la idea de
herramienta queda entonces como una antigualla o arcaísmo. Hay que expandir el
sentido y al mismo tiempo, las consecuencias éticas ligadas al uso de estas
nuevas tecnologías y por supuesto, preguntarse seriamente acerca del futuro del
trabajo (Bankins et al., 2024).
En medio de los espectaculares avances, corresponde preguntarnos
si es ético otorgar a los algoritmos la entera facultad de tomar decisiones
(autónomas) con
respecto a la identificación y/o, caracterización y posterior
acción en ausencia de una validación humana capaz de entender el concepto
global de la respuesta otorgada(Baum et al. 2022; Coeckelbergh 2020). Si bien
es cierto que la autoridad y el prestigio de cada profesional otorgan la
responsabilidad en todo lo concerniente a su ciencia o expertise, no obstante,
ante la gestión de grandes cantidades de datos y la integración de un número
importante de información, la IA ofrece una eficiencia y rapidez inéditas muy
superiores a lo que un profesional de cualquier area de la ciencia podría
lograr. Está visto que en la línea de la cooperación “hombre-máquina”, la
discusión no radicaría en la presencia de ambos sino en el resguardo de la
autonomía humana (Choudhary et al. 2023). Esto es, por un lado, reconocer la
relevancia humana materializada, en su actuar prudente en base a una ciencia y
un arte signados a su vez por una experiencia y sensibilidad propias de la
condición humana. En el contexto de la IA el conocimiento, la experiencia y la
sensibilidad se reducen a un simple conjunto de datos a ser monitoreados,
analizados y cuantificados, pero no debemos olvidar que son los humanos quienes
escriben los algoritmos, y estos a su vez en su conjunto definen el éxito o el
fracaso de un sistema, toman decisiones sobre los usos de dicho sistemas y
quienes, en definitiva, se pueden ver afectados por sus resultados. Por ello,
cada persona involucrada en la creación de inteligencia artificial, al igual
que las empresas que invierten en su desarrollo, es responsable de considerar
el impacto de dicho sistema en el mundo, en cualquier caso(Coeckelbergh 2020;
Gunkel 2018). Para esto, los diseñadores y desarrolladores de la inteligencia
artificial deben implementar mecanismos y salvaguardar, como la capacidad de
determinación humana, que sean apropiadas al contexto y consistentes con el
estado del arte (Sanchez-Vázquez y Toro-Valencia, 2021). Estas medidas harán
posible que los sistemas de IA sean más seguros y contribuirán a que su
utilización sea más responsable (Choudhury y Asan, 2022). Es de suma
importancia insistir que ante el uso de cualquier tecnología, por más avanzada
y confiable que sea, la misma debe evitar en todo momento, causar daño.
Ademas, la IA contempla un aprendizaje que se percibe como autonomo y
constante, entonces plantea el dilema de quien debera asumir la responsabilidad
etica y/o legal de los resultados basados en los sistemas de IA (Wei, 2021,
Fallas-Vargas y Morales-Castro, 2024).
Como ejemplo, en el contexto del uso médico de la IA, es conocido
el caso de Watson Oncology, IA de IBM, capacitado por el Memorial Sloan
Kettering Cancer Center (MSKCC) que utiliza atributos específicos encontrados
en el caso de un paciente para identificar posibles opciones de tratamiento del
cáncer que los médicos pueden usar al tomar decisiones sobre la atención del
paciente (IBM, 2017), estudios en China mencionan que 72,8% de sus
recomendaciones concordaban con casos clinicos reales, sin embargo advierten
que esta herramienta no reemplaza oncologos (Zou et al, 2020).
En el tiempo presente, se tiene la seguridad que un nuevo tipo de
IA generativa irá ganando espacio y tendría un amplio uso en el ámbito de la
investigación, la atención sanitaria, la salud pública y el desarrollo de
medicamentos; nos estamos refiriendo a los Modelos de Lenguaje Multimodal
(LMM) (Almarie et al., 2023; Sonicki, 2024).
En su reciente libro Deep Utopia: Life and Meaning in a Solved
World, Bostrom (2024) esboza el futuro cercano signado y delineado por la
fuerza transformadora de la IA. Un nuevo escenario, radicalmente diferente para
la humanidad. Así, desde un experimento mental ensaya la posibilidad de que los
grandes desafíos se ven resueltos gracias al poder de la IA. El autor dibuja la
posibilidad de que en un lapso de tiempo, relativamente corto, el propósito y
el significado de la existencia humana demandarán una reconfiguración ante los
grandes cambios que acontecerán en función a la desaparición de la escasez, del
trabajo y del sufrimiento humano. Si gracias a la abundancia tecnológica se
mitigan o eliminan los grandes imponderables, entonces, las preguntas esenciales
sobre el propósito y el significado de la vida, deberán necesariamente ser
replanteadas.
En un trabajo anterior (Silvero Arévalos y Barúa Chamorro, 2024)
habíamos afirmado que la disruptiva irrupción de la inteligencia artificial
(IA) supone un enorme reto para las universidades latinoamericanas y para todas
las instituciones de educación superior (UNESCO/IESALC (2023). No obstante,
también dejamos en claro que no bastaba con la sola implementación de una
gobernanza estratégica, consideramos que la clave radica en una gestión
adecuada de la misma a fin de que los servicios del Estado puedan lograr
rendimientos óptimos y deseables para el fortalecimiento institucional y el
desarrollo económico, ético y social de la población.
No hay duda de
que la IA llegó para quedarse. Por lo tanto, como académicos y científicos,
debemos prepararnos para un modelo educativo sin precedentes en el cual, el
recurso mas valioso con el que contaremos sera la capacidad de adaptarnos al
cambio.
Referencias
Bibliográficas
Almarie,
B., Teixeira, P. E. P., Pacheco-Barrios, K., Rossetti, C. A., & Fregni,
F.(2023). Editorial - The Use of Large Language Models in
Science: Opportunities and Challenges.Principles and practice of clinical
research,9 (1), 1–4. https://doi.org/10.21801/ppcrj.2023.91.1
Bankins, S.,
Xinyu, H., and Yunyun, Y. (2024). Artificial Intelligence, Workers, and Future
of Work Skills. Current Opinion in Psychology, 58, 101828. doi: 10.1016/J.COPSYC.2024.101828.
Baum, K., Mantel,
S., Schmidt, E., and Speith, T. (2022). From Responsibility to Reason-Giving
Explainable Artificial Intelligence. Philosophy and Technology 35(12).
doi: 10.1007/S13347-022-00510-W.
Bostrom, N. (2024).
Deep Utopia: Life and Meaning in a Solved World. IdeaPress Publishing:
Washington, DC
ChatGPT. (2022).
https://chat.openai.com/chat
Choudhary, V.,
Marchetti, A., Shrestha, Y. R., and Puranam, P.. (2023). Human-AI Ensembles:
When Can They Work? Journal of Management. doi:
10.1177/01492063231194968.
Coeckelbergh, M.
(2020). Artificial Intelligence, Responsibility Attribution, and a Relational
Justification of Explainability Science and Engineering Ethics, 26(4),2051–68.
doi: 10.1007/S11948-019-00146-8/METRICS.
Fallas-Vargas, F.
y Morales Castro, C. (2024). Luces y Sombras de La Inteligencia Artificial: Ética,
Crimen Organizado, Justicia, Industria Cultural y Minimalismo Cognitivo. Revista
Estudios (Especial), 75–101. doi: 10.15517/RE.V0IESPECIAL.62988.
Filgueira,
F. (2023). Desafíos de gobernanza de inteligencia artificial en América Latina.
Infraestructura, descolonización y nueva dependencia. Revista Del CLAD
Reforma y Democracia, (87), 44-70. https://doi.org/10.69733/clad.ryd.n87.a3
Gunkel, D. J. (2018). “Mind the Gap:
Responsible Robotics and the Problem of Responsibility.” Ethics and Information
Technology
,22(4), 307–20. doi: 10.1007/s10676-017-9428-2.
Robles
Carrillo, M. (2024). La gobernanza de la inteligencia artificial: contexto y
parámetros generales. Revista Electrónica De Estudios Internacionales,
(39). https://reei.tirant.com/reei/article/view/2989
Sánchez Vázquez, C. y Toro-Valencia, J. (2021). El derecho al control humano: Una
respuesta jurídica a la inteligencia artificial. Revista chilena de derecho
tecnología ,10 (2), pp. 211–228. http://dx.doi.org/10.5354/0719-2584.2021.58745.
Silvero Arévalos, J. M. y
Barúa Chamorro, J. E. (2024). Políticas de IA en el Cono Sur: Un Análisis
Comparativo en el Marco de la Evaluación de la Universidad Nacional de
Asunción. Revista Letra Magna,20(37), 71–85. https://ojs.ifsp.edu.br/index.php/magna/article/view/2698
Sonicki,
Z. (2024). Large multi-modal models - the present or future of artificial
intelligence in medicine?. Croatian medical journal,
65(1), 1–2. https://doi.org/10.3325/cmj.2024.65.1
Maarten, G.
& Savona, M. (2024). The governance of artificial intelligence: Harnessing
opportunities and mitigating challenges. Research Policy, 53 (3), 104928,
https://doi.org/10.1016/j.respol.2023.104928.
UNESCO/IESALC. (2023). Oportunidades
y desafíos de la era de la inteligencia artificial para la educación superior.
Una introducción para los actores de la educación superior. Caracas,
Venezuela. https://unesdoc.unesco.org/ark:/48223/pf0000386670_spa/PDF/386670spa.pdf.multi
Wei, L. (2021).
Resource Guide on Artificial Intelligence. AI Strategies.New
York. United Nations.
Zou,
F. W., Tang, Y. F., Liu, C. Y., Ma, J. A., & Hu, C. H. (2020). Concordance
Study Between IBM Watson for Oncology and Real Clinical Practice for Cervical
Cancer Patients in China: A Retrospective Analysis.Frontiers in genetics,11,
200. https://doi.org/10.3389/fgene.2020.00200