![](3D"1411_SaltoDoisela_archivos/image002.jpg")
DOI: https://doi.org/10.56712/latam.v6i5.4829
La Inteligencia Artificial Generativa y los factores negativos de =
su
uso en adolescentes
Generative
Artificial Intelligence and the negative factors of its use in adolescents =
David
Efraín Salto Doisela[1]<=
/b>
https://orcid.org/0009-0001-5786-2184 =
Unidad Educativa Dr. Ricardo Cornejo Rosales
Ecuador
Darío Paúl Chanaluisa
Toaquiza
dario.chanaluisa@educacion.gob.ec
https://orcid.org/0000-0002-3847-0554
Unidad Educativa Dr. Ricardo Cornejo Rosales
Ecuador
Erika
Gabriela Toapanta Yugsi
erikag.toapanta@educacion.gob.ec =
https://orcid.org/0009-0002-9607-097X
Unidad Educativa Dr. Ricardo Cornejo Rosales
Ecuador
Nelly Yolanda Catota Tigse
https://orcid.org/0009-0000-3930-6910
Unidad Educativa Dr. Ricardo Cornejo Rosales
Ecuador
Edwin
Marcelo Espin Tama
https://orcid.org/0009-0008-3222-5251
Unidad Educativa Dr. Ricardo Cornejo Rosales
Ecuador
Artículo recibido: 16 de julio de
2025. Aceptado para publicación: 15 de noviembre de 2025.
Conflictos de Interés: Ninguno que declarar.
Resumen
Este artículo indaga el có=
;mo
la Inteligencia Artificial Generativa (IAG) se =
ha
convertido en la fuente principal de consulta para los adolescentes, lo que
trae consecuencias negativas en su proceso educativo. Ya que, el uso
desmesurado de la IAG conduce a la
desinformación. Asimismo, el uso de la IA puede perpetuar cám=
aras
de ecos en los adolescentes sobre su autopercepción e ideologí=
;a.
Además, se analiza cómo la IA, se ha convertido en la falacia=
de
autoridad predilecta en la reproducción de “argumentos”
sobre cualquier tema a debatir. Para evidenciar dichos tópicos este =
estudio
se implementó en la Unidad Educativa Dr. Ricardo Cornejo en la ciuda=
d de
Quito. Esta es una investigación de campo, el enfoque es cuantitativ=
o.
El diseño de la investigación es no experimental. De alcance
descriptivo. Los resultados han sido analizados por medio de encuestas. En
cuanto a los resultados se demuestra que la IA es hoy en día la
principal fuente de consulta a la que los jóvenes no cuestionan.
Asimismo, la IA en los adolescentes valida sus ideas, aunque sean
polémicas en cuanto a su ideología. Se concluye que se debe
educar a los adolescentes en el uso responsable de la IA.
Palabras clave: IAG, chatbot, falacia, desinformación, sesgo
Abstract
This article investigates how the Generative Artificial Intelligence=
(IAG) has become the main source of consultation for
adolescents, which brings negative consequences in their educational proces=
s.
Since, the excessive use of IAG leads to
misinformation. Also, the use of AI can perpetuate echo chambers in adolesc=
ents
about their self-perception and ideology. In addition, it analyzes how AI h=
as
become the fallacy of authority preferred in reproducing "arguments&qu=
ot;
on any topic to be discussed. To highlight these topics this study was
implemented in the Educational Unit Dr. Ricardo Cornejo in the city of Quito . This is field research, the
approach is quantitative. The design of the research is non-experimental.
Descriptive scope. The results have been analysed by
means of surveys. The results show that AI is now the main source of
information which young people do not question. Also, the AI in adolescents
validates their ideas, even if they are controversial as to their ideology.=
It
is concluded that adolescents should be educated in the use of responsible =
AI.
Keywords: IAG, chatbot, fallacy, misinformation, bias
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
<= o:p>
Todo el contenido de LATAM Revista Latinoamerica=
na
de Ciencias Sociales y Humanidades, publicado en este sitio está
disponibles bajo Licencia Creative Commons.=
![](3D"1411_SaltoDoisela_archivos/image004.jpg")
<=
o:p>
C=
ómo
citar: Salto Doisela,
D. E., Chanaluisa Toaquiza, D. P., Toapanta
INTRODUCCIÓN
El presente artículo pretende informar
sobre cómo la Inteligencia Artificial Generativa por su
configuración informática pese a ser una herramienta ú=
til
en el ámbito educativo aún tiene ciertos rasgos negativos. En
primer lugar, el uso ilimitado de chatbots sin
consultar otras fuentes puede generar desinformación. Por otro lado,=
la
búsqueda de objetividad por parte de la IA ante pensamientos extremi=
stas
genera sesgos para el usuario. Además, la Inteligencia Artificial se=
ha
convertido en una falsa autoridad ante la cual muchas personas la convierte=
n en
su principal herramienta para encontrar argumentos.
Se contextualiza la relevancia de esta
investigación al ser cada vez más común el uso de la <=
span
class=3DSpellE>IAG en situaciones cotidianas como el trabajo, la esc=
uela,
los oficios, entre otras. Por lo que se debe conocer, aunque de forma
sintética el modo de funcionamiento de esta tecnología y
cuán confiables son los datos que presenta.
Se justifica este estudio pues describe los
factores negativos de la IAG para poder utiliza=
rla de
mejor manera. Ya que si se conoce con antelación que la Inteligencia
Artificial es capaz de fallar se pueden buscar fuentes alternativas de cons=
ulta
para generar contenido académico y más aún
científico
Los estudios previos que respaldan esta invest=
igación
son: alucinación, sesgo, falsa autoridad
El artículo escrito por Fernando Juca-<=
span
class=3DGramE>Maldonado (2023)
denominado El impacto de la inteligencia artificial en los trabajos
académicos y de investigación. Publicado en la Revista
Metropolitana de Ciencias Aplicadas precisa que la IA puede ser utilizada p=
ara
la creación de artículos científicos. Sin embargo, los
estudios realizados de este modo son de menor creatividad e innovació=
;n.
Para identificar los artículos elaborados por la IA se evalúa=
n su
estilo, contenido, lenguaje además de utilizar páginas web y
aplicaciones informáticas dedicadas a revisar si los escritos no se
realizaron con esta herramienta. La metodología de este artíc=
ulo
responde a un enfoque cuantitativo, es una investigación descriptiva=
, de
diseño no experimental, cuyo estudio es de campo. Después de =
la
realización de ensayos humanos y con IA se considera que es casi
imperceptible el uso de la IA, por lo que se recomienda enseñar a los
estudiantes el uso ético de esta tecnología.
El artículo de Rodrigó
Ramírez Autrán(2023), denominado como Sesgos y discriminaciones soci=
ales
de los algoritmos en Inteligencia Artificial: Una revisión documental
publicado en la revista Entretextos plante=
a que
la IA es una de las tecnologías que forma parte de la cuarta
revolución industrial. Indica que la IA también denominada ag=
ente
inteligente es capaz de mejorar el desempeño bursátil y
financiero de diversas empresas pues reduce el costo de personal. No obstan=
te,
el no conocer el funcionamiento de está genera un modelo de caja neg=
ra.
En el que se conoce el método de entrada y salida de la
información, pero se desconoce el proceso en que esta se transforma.=
El
autor indica que los sesgos provienen de los grupos de trabajo que gestiona=
n el
entrenamiento de la IA pues tienen sus propios prejuicios e ideologí=
as.
Además, indica que los programadores no cumplen con una cuota de
diversidad e inclusión por lo que pueden cegarse ante sesgos
discriminatorios. La metodología de este artículo es document=
al
pues se analizan 32 artículos sobre la IA no pertenecientes a empres=
as y
de enfoque cualitativo. En su
discusión de resultados indica que las minorías raciales en l=
as
aplicaciones de reconocimiento facial tienden a funcionar deficientemente.
Además, existe el envenenamiento de datos en los que los programador=
es
pueden usar de forma maliciosa la información de la IA. Los asistent=
es
de voz perpetúan el estereotipo de género ya que tienen voces
femeninas y son sumisas. La exclusión de las inteligencias artificia=
les
que ya se hallan presentes en dispositivos inteligentes e incluso en primer=
as
versiones de robots generará una brecha de desigualdad. Los algoritm=
os
de IA en el ámbito jurídico tienen un sesgo de racismo
estructural en los convictos afrodescendientes evitando su libertad
condicional. Esto principalmente porque el algoritmo se basa en las tasas de
arresto de EEUU donde hay el doble de posibilidades de arresto si se es
afrodescendiente. Se concluye que debe existir mayor apertura en cómo
los programadores manejan los datos para no realizar un tech- washing, es decir, usar la IA para justificar los ses=
gos de
cualquier tipo.
El problema de investigación a estudiar=
se
denomina: La Inteligencia Artificial Generativa y los factores negativos de=
su
uso en adolescentes. Tiene como objetivo general informar a la poblaci&oacu=
te;n
general sobre los rasgos negativos de la Inteligencia Artificial Generativa=
a
través de estudios previos, casos reales y la percepción
adolescente de este tópico. Sus objetivos específicos son
<=
span
style=3D'mso-list:Ignore'>●<=
span
style=3D'mso-list:Ignore'>●<=
span
style=3D'mso-list:Ignore'>●<=
span
style=3D'mso-list:Ignore'>●<=
span
style=3D'mso-list:Ignore'>●<=
span
style=3D'mso-list:Ignore'>●
![](3D"1411_SaltoDoisela_archivos/image006.jpg")
Fuente: elaboración propia.
De una población de 45 sujetos, 62,2%, =
es
decir, 28 personas son de género femenino y el 37,8 %, 17 encuestado=
s,
pertenecen al género masculino.
IAG más
utilizada
|
¿Qu&ea=
cute;
Inteligencia Artificial Generativa utiliza más? |
|||||
|
|
Frecuencia |
Porcentaje |
Porcentaje
válido |
Porcentaje
acumulado |
|
|
Válido |
Otras
(IA de navegador, Grok, Gemini) |
14 |
31,1 |
31,1 |
31,1 |
|
DeepSeek |
1 |
2,2 |
2,2 |
33,3 |
|
|
Meta
(Facebook, WhatsApp) |
4 |
8,9 |
8,9 |
42,2 |
|
|
Chat GPT |
26 |
57,8 |
57,8 |
100,0 |
|
|
Total |
45 |
100,0 |
100,0 |
|
Fuente: elaboración propia.
Gráfico =
2
IAG más
utilizada
Fuente: elaboración propia.
De una población de 45 sujetos, se han
obtenido los siguientes datos:14 estudiantes, es
decir, el 31,1% prefieren usar otras IAGs tales=
como
la IA de navegadores web, Grok y la IA de Google
llamada Gemini. Por otro lado, el 57, 8 % de estudiantes, 26 personas eligi=
eron
a Chat GPT. Asimismo, la I=
AG
de Meta es usada por 4 personas, es decir el 8,9% prefieren usar las IAG de esta empresa (WhatsApp, Messenger). 1 sola per=
sona
opta por DeepSeek, es decir, el 2,2% de los
encuestados.
Tabla 3
Realizaci&oacut=
e;n
de tareas con IA
|
¿Con
qué frecuencia utiliza la inteligencia artificial para realizar sus
tareas? |
|||||
|
|
Frecuencia |
Porcentaje |
Porcentaje
válido |
Porcentaje
acumulado |
|
|
Válido |
Siempre |
1 |
2,2 |
2,2 |
2,2 |
|
Casi Siempre |
12 |
26,7 |
26,7 |
28,9 |
|
|
A veces |
26 |
57,8 |
57,8 |
86,7 |
|
|
Casi Nunca |
5 |
11,1 |
11,1 |
97,8 |
|
|
Nunca |
1 |
2,2 |
2,2 |
100,0 |
|
|
Total |
45 |
100,0 |
100,0 |
|
Fuente: elaboración propia.
Gráfico =
3
![](3D"1411_SaltoDoisela_archivos/image010.jpg")
Realización de tareas con IA
Fuente: elaboración propia.
De una población de 45 sujetos, se han
obtenido los siguientes datos: 1 estudiante, es decir, el 2,2 % siempre uti=
liza
inteligencia artificial en la realización de sus tareas. Por otro la=
do,
el 26,7 % de estudiantes, lo que equivale a 12 personas casi siempre la
utilizan. Asimismo, el 57,8%, 26 personas, manifiestan que a veces la usan.=
5
personas, es decir, el 11.1 % señala que casi nunca la utiliza en la
realización de sus tareas y solo el 2,2%, 1 encuestado, nunca la ha
utilizado.
Tabla 4
Utilizaci&oacut=
e;n
de la IA en la argumentación
|
¿Con
qué frecuencia usted suele utilizar la inteligencia artificial par=
a argumentar
en un debate o en una tarea? |
|||||
|
|
Frecuencia |
Porcentaje |
Porcentaje
válido |
Porcentaje
acumulado |
|
|
Válido |
Siempre |
3 |
6,7 |
6,7 |
6,7 |
|
Casi Siempre |
8 |
17,8 |
17,8 |
24,4 |
|
|
A veces |
20 |
44,4 |
44,4 |
68,9 |
|
|
Casi Nunca |
9 |
20,0 |
20,0 |
88,9 |
|
|
Nunca |
5 |
11,1 |
11,1 |
100,0 |
|
|
Total |
45 |
100,0 |
100,0 |
|
Fuente: elaboración propia.
Gráfico =
4
Utilizaci&oacut=
e;n
de la IA en la argumentación
![](3D"1411_SaltoDoisela_archivos/image012.jpg")
Fuente: elaboración propia.
De una población de 45 sujetos, se han
obtenido los siguientes datos: 3 estudiantes, es decir, el 6,7 % siempre
utiliza IA para argumentar tareas o debates. Por otro lado, el 17,8 % de
estudiantes, lo que equivale a 8 personas, casi siempre la utilizan para sus
argumentaciones. Asimismo, el 44,4%, 20 personas, manifiestan que a veces la
usan para esos ámbitos. 9 personas, es decir, el 20 % señala =
que
casi nunca la utiliza para argumentación y el 11,1%, 5 encuestados,
nunca la ha utilizado en esos campos.
Tabla 5
La criticidad d=
e la
IA frente al usuario
|
¿Con
qué frecuencia considera que la inteligencia artificial sea
crítica ante sus ideas u opiniones? |
|||||
|
|
Frecuencia |
Porcentaje |
Porcentaje
válido |
Porcentaje
acumulado |
|
|
Válido |
Siempre |
1 |
2,2 |
2,2 |
2,2 |
|
Casi Siempre |
5 |
11,1 |
11,1 |
13,3 |
|
|
A veces |
19 |
42,2 |
42,2 |
55,6 |
|
|
Casi Nunca |
10 |
22,2 |
22,2 |
77,8 |
|
|
Nunca |
10 |
22,2 |
22,2 |
100,0 |
|
|
Total |
45 |
100,0 |
100,0 |
|
Fuente: elaboración propia.
Gráfico =
5
La criticidad d=
e la
IA frente al usuario
Fuente: elaboración propia.
De una población de 45 sujetos, se han
obtenido los siguientes datos: 1 estudiante, es decir, el 2,2 % considera q=
ue
siempre la IA es crítica en sus opiniones o ideas. Por otro lado, el
11,1% de estudiantes, lo que equivale a 5 personas, casi siempre la conside=
ran
de esta manera. Asimismo, el 44,2%, 19 personas, manifiestan que a veces es
crítica. 10 personas, es decir, el 22,2 % señala que casi nun=
ca
la consideran crítica, con el mismo porcentaje se encuentran los que
nunca la consideran así.
Tabla 6
Informaci&oacut=
e;n
veraz de la IA
|
¿Con
qué frecuencia considera que la inteligencia artificial le provee
datos correctos? |
|||||
|
|
Frecuencia |
Porcentaje |
Porcentaje
válido |
Porcentaje ac=
umulado |
|
|
Válido |
Siempre |
3 |
6,7 |
6,7 |
6,7 |
|
Casi Siempre |
12 |
26,7 |
26,7 |
33,3 |
|
|
A veces |
25 |
55,6 |
55,6 |
88,9 |
|
|
Casi Nunca |
3 |
6,7 |
6,7 |
95,6 |
|
|
Nunca |
2 |
4,4 |
4,4 |
100,0 |
|
|
Total |
45 |
100,0 |
100,0 |
|
Fuente: elaboración propia.
Gráfico =
6
![](3D"1411_SaltoDoisela_archivos/image016.jpg")
Información veraz de la IA
Fuente: elaboración propia.
De una población de 45 sujetos, se han
obtenido los siguientes datos: 3 estudiantes, es decir, el 6,7 % siempre
consideran que los datos dados por la IA son correctos. Por otro lado, el 2=
6,7
% de estudiantes, lo que equivale a 12 personas, casi siempre considera que
estos datos son correctos. Asimismo, el 55,6%, 25 personas, manifiestan que=
a
veces consideran los datos como correctos. 3 personas, es decir, el 6,7 %
señala que casi nunca los consideran correctos y solo el 4,4%, 2
encuestados, nunca han considerado correctos estos datos.
DISCUSIÓN
El uso de la Inteligencia Artificial Generativ=
a es
bastante común en los adolescentes encuestados. De ahí que, la
plataforma de mayor uso en su vida cotidiana sea el Chat GPT.
De los 45 encuestados 26 la utilizan. En segundo lugar, otras inteligencias
artificiales tales como la IA integrada en el buscador de Google Chrome,
así como Gemini la IAG de esta misma emp=
resa y
Grok inteligencia de Twitter (ahora X) son util=
izadas
por 14 personas.
A partir de esta información se demuest=
ra
que la inteligencia artificial que mayor injerencia tiene sobre los
adolescentes es la plataforma Chat GPT. Una de =
las
razones principales de su uso es que ha sido popularizado en distintas redes
sociales, además Open IA la empresa que lanzó esta IAG tiene una variedad de productos digitales tales c=
omo DALL-E, para la creación de imágenes, S=
ora,
modelo de generación de videos, entre otros.
Se comprende también, que el segundo pr=
oducto
de IA más usado sea el proveniente del navegador web Google Chrome y=
su IAG Gemini. Pues, este es el navegador que viene por
defecto en los ordenadores y smartphones. Además, ahora incluso las
preguntas que se hacen directamente en el buscador tienen como primera
respuesta un resumen elaborado por la IAG. Entr=
e las
otras opciones también aparece la inteligencia artificial de X, Grok. En este sentido es incluso preocupante que teng=
a un
valor de consulta este modelo de lenguaje pues como ya se elaboró
anteriormente esta plataforma tiene grandes rasgos raciales e
ideológicos.
En cuanto a la pregunta ¿Con qué
frecuencia utiliza la inteligencia artificial para realizar sus tareas? Se =
han
obtenido los siguientes resultados con un 57,8%, es decir 26 encuestados a
veces la utiliza en la realización de sus tareas y 12 personas, el
26,7%, lo hacen casi siempre. Si se toma como verídicas y sinceras l=
as
respuestas de los adolescentes se destaca que la herramienta de la intelige=
ncia
artificial generativa es una parte esencial de su proceso académico.=
Al considerar los resultados positivos
según la escala de Likert frente al uso de la I=
AG
reflejan que esta es la nueva fuente de datos sobre la que se está
fundamentando el primer acercamiento de los jóvenes a la investigaci=
ón.
No obstante, si es usada la IAG como primera y
única fuente de información; lo que los jóvenes aprend=
en
puede ser muchas veces demasiado superficial o de lleno un bulo
académico (desinformación popularizada por falta de un proceso
investigativo exhaustivo).
En cuanto a la pregunta ¿Con qué
frecuencia suele utilizar la inteligencia artificial para argumentar en un
debate o en una tarea? Se ha obtenido los siguientes resultados con un 44,4=
%,
es decir, 20 encuestados a veces la utilizan para estos ámbitos
educativos y un 20%, 9 personas casi nunca la utilizan en estos casos.
Aunque poco menos de la mitad de los estudiant= es encuestados basan su argumentación en la IAG, otras 9 personas o el 20% de la población optan por generalmente no utilizar esta herramienta para basar o reafirmar los ideales que defiende.<= o:p>
La polarización de ambos resultados
demuestra el fenómeno actual en el que la IAG
para la mayoría es una especie de escudo que defiende sus posturas c=
on
falsos argumentos. Mientras otras pocas personas prefieren argumentar desde=
la
investigación por medio de la experiencia.
El uso de la IAG c=
omo
una autoridad frente a una discusión o debate parece dar resultados
óptimos. Pero, muchos de los argumentos, aunque parezcan sóli=
dos
pueden sustentarse en fuentes de investigación que la IAG inventa o cita mal debido a las alucinaciones.
Prácticamente la fiabilidad de un chat bot es
muy baja y desmontable si se utiliza como único argumento para defen=
der
una postura.
En cuanto a la pregunta ¿Con qué=
frecuencia
usted considera que la inteligencia artificial sea crítica ante sus
ideas u opiniones? Se ha obtenido los siguientes resultados, con un 42,22%,=
es
decir 19 encuestados a veces considera a la IA crítica y con un igual
resultado del 22,2%,10 personas, se encuentran las que casi nunca y nunca la
consideran crítica, lo que da como resultado que el porcentaje domin=
ante
sea de 44,4%. En la escala de Likert se interpreta este resultado como
negativo.
Es decir, la mayoría de estudiantes
encuestados consideran que la IAG no los critic=
a.
Entonces, se demuestra que los chats bots si no=
se
solicita de forma textual la crítica hacia una idea, contenido o pos=
tura
simplemente actúan a favor del usuario. Si bien el refuerzo positivo
mejora el aprendizaje, en tanto los estudiantes sienten menor presió=
n al
realizar cuestionamientos sobre cualquier tópico. Sin embargo, respa=
ldar
conductas autolesivas, pensamientos depresivos, ideas suicidas genera a cor=
to
plazo la desconexión del usuario con la realidad y si se impulsan sus
pensamientos negativos puede llegar a cometer actos atroces a sí mis=
mo y
en casos extremos hacia otra persona.
En cuanto a la pregunta ¿Con qué
frecuencia usted considera que la inteligencia artificial le provee datos
correctos? Se ha obtenido los siguientes resultados, con un 55,6%, es decir=
25
encuestados a veces considera que la IA provee datos correctos y un 26,7%, =
12
personas, casi siempre considera que los datos obtenidos de la IA son
correctos.
Los estudiantes consideran que generalmente la=
IAG les brinda datos correctos en sus investigaciones
educativas. Esta respuesta refleja un desconocimiento generalizado de los
defectos propios de la inteligencia artificial. En la educación prim=
aria
y secundaria la IAG es solo vista como un enemi=
go al
proceso educativo. Por tal razón se evita hablar de esta, no obstant=
e,
con la educación adecuada en el uso de la IAG
los adolescentes sabrán cuan imprecisos son los datos que proporcion=
an
estas plataformas.
La alucinación en la IAG
ocurre cuando se son respondidas preguntas con coherencia textual y narrati=
va,
pero sin una base fundamentada en eventos reales (invención de fecha=
s,
biografías, lugares y fuentes de información). Otro fallo que=
se
desprende de la IAG es el sesgo al que se enfre=
ntan
sus respuestas. La gran mayoría de usuarios consideran que la IAG es objetiva, al ser un sistema computacional, por=
lo
que sus respuestas no están sesgadas como las de sus conocidos o
familiares. No obstante, no comprenden que el sesgo existe por los datos con
los que fue nutrida la IAG principalmente
provenientes de Norte América y por ende acompañados de la
idiosincrasia de estas personas (racismo, xenofobia, sexismo). Finalmente,
considerar verdades indiscutibles los datos presentados por la IA sin una
consulta de las fuentes que cita le da un poder demasiado fundamental en el
actuar del usuario promedio. Por lo que es recomendable, primero analizar u=
na
fuente confiable de información y después cuestionar los punt=
os
más complejos mediante los modelos de IAG.
Las limitaciones de este estudio se deben a la
población reducida sobre la que se aplicó esta encuesta debid=
o a
que los otros paralelos no disponían de un lapso amplio para poder s=
er
encuestados. Se recomienda seguir realizando investigaciones sobre las nuev=
as
tecnologías para revelar sus falencias y virtudes en tanto conduce al
progreso de la investigación y la ciencia
CONCLUSIONES
Se concluye que la Inteligencia Artificial
Generativa más usada por los estudiantes es Chat GPT
esto debido a que es la más popularizada en redes sociales y permite=
la
interacción continua del usuario aun en la versión gratuita. =
Chat
GPT se ha vuelto el representante de la IAG especialmente de la IA de generación de te=
xto.
Por lo que los casos referidos a fallas de esta tecnología se visibi=
lizan
cuando esta plataforma comete errores. De ahí que, a partir de su us=
o se
han categorizado en tres secciones los fallos más comunes de estas
plataformas, que son: Las alucinaciones de las IAGs,
los sesgos raciales presentes en las IAGs y la =
poca o
nula validez de argumentación rigurosa que manejan las IAGs.
=
La IAG es una tecnología novedosa y es para los
adolescentes una herramienta de uso cotidiano como lo indican los datos
recabados. No obstante, que la IAG sea capaz de
responder a cuestiones con rapidez y la mayor parte del tiempo de forma
correcta no debe ser considerada una fuente de información confiable.
Pues como ya se ha visto, la IAG=
puede sufrir alucinaciones. Dicho de otro modo, los ch=
atbots
pueden arrojar respuestas con estructura y semántica coherente pero =
que
tienen en su interior datos erróneos. Como lo son eventos, personaje=
s y
lugares históricos inventados, fuentes secundarias cuyos enlaces no
conducen a documentos existentes. La IAG sufre =
de
esta falencia pues los grandes modelos de lenguaje (LL=
M)
se entrenan con un número de fuentes finitas, aunque sean muchas (=
chat GPT usa 1. 3. Trillones de par&aa=
cute;metros
). También, puede colarse la alucinación entre datos
reales. Además, la IAG al menos de las
empresas más famosas: Open IA, Meta, Google, aun en su versió=
n de
paga mantienen respuestas con alucinaciones. Estas alucinaciones aparecen c=
on
más frecuencia en Prompts poco detallado=
s,
propios de usuarios principiantes, los adolescentes.
Las IAG tambi&eacu=
te;n
perpetúan sesgos raciales y sexistas. Esto debido a que la mayor par=
te
de sus datos son recabados en Estados Unidos o países occidentales. =
Por
ende, estas plataformas no cuentan con una riqueza cultural para discernir
qué conductas son raciales y cuáles no. Los sesgos se adquier=
en
también a partir de los usuarios, quienes por medio del manejo de su=
s prompts en los cuales conscientemente inducen a la
Los sesgos raciales también se deben a =
que
en la IAG los datos tienden a mostrarse seg&uac=
ute;n
el mayor porcentaje estadístico que poseen. Por lo que personas
afrodescendientes, mestizas, entre otras etnias al tener menor
representación los datos brindados por los chat=
bots
se condicionan por los usuarios e incluso por estereotipos cuyos
parámetros les muestran. Al comprender esta información se
entiende que en usuarios extremistas la IAG es =
hoy en
día el mayor aliado de las campanas de eco. Es decir, la
información brindada por los chatbots
justifica para los usuarios intransigentes sus posturas polémicas, p=
or
el modo en que manipulan los prompts, pero
también por sesgos que la misma estructura de la IAG
posee.
Las respuestas brindadas por las IAGs son muchas veces el sustento de argumentaci&oacu=
te;n
de los jóvenes. En la encuesta 20 estudiantes afirman a veces basar =
sus
posturas en las IAGs. Si se comprende que las
respuestas pueden estar sesgadas a una ideología y que los datos pue=
den
no tener sustento por las alucinaciones de la IA. Es obvio considerar que l=
as IAGs no son una autoridad en ninguna materia para sus=
tentar
un argumento. Existe la falsa creencia de que estos ch=
atbots
son mucho más objetivos que las personas, pero al igual que el ser
humano el origen de los datos genera sesgos que no se basan en ideas
racionales. La IA por su estructura solo informa desde el porcentaje m&aacu=
te;s
probable de la base de datos que dispone.
Los chatbots al
interactuar con los usuarios mantienen la conversación fluida y
positiva. Por lo que el mayor número de encuestados en esta
investigación son conscientes de la poca criticidad de la IAG frente a sus ideas u opiniones. Aunque es
didáctico brindar refuerzos positivos a los discentes, no mostrar
criticidad a ideas autolesivas, conductas que generan aislamiento o
pensamientos criminales conduce a que los usuarios puedan autoinfligirse
daño o llevar a la acción actos no deseables por la falta de
guía.
Las IAG en la actu=
alidad
se han convertido en la fuente principal y única de consulta por la
mayoría de adolescentes. Esto es preocupante puesto que, si bien la =
IAG es capaz de responder sobre tópicos genera=
les
con certeza, los estudios particulares sean por su complejidad, contexto o =
cultura
comete errores por las alucinaciones o los sesgos inherentes a su estructur=
a.
Los grandes modelos del lenguaje no son capace=
s de
generar bibliografía correcta, algunos inventan las fuentes de su
investigación mientras que otros reproducen bulos por ser reiterativ=
os o
con mayor porcentaje las respuestas incorrectas.
Los estudiantes mencionan que a veces y casi
siempre la IAG responde con datos correctos. Si=
no
existe criticidad ante la respuesta de estos chatbots<=
/span>
se generaliza la desinformación. La IAG =
puede
y debe ser usada en la educación, pero como una fuente adicional al
material bibliográfico sustentado: artículos científic=
os,
repositorios universitarios, artículos de periódicos y revist=
as
de prestigio, páginas gubernamentales de estadísticas. Si se =
lee
una información que tiene un sustento científico se puede usa=
r la
IAG para cuestionar o comprender mejor la
información de este archivo o página web. Discutir con la
Se concluye que se debe educar a los adolescen=
tes
en el uso responsable de la IA, así como educar al estudiantado sobre
los procesos de validación de la información, el peligro de l=
as
campanas de eco, que validan posturas que pueden llegar a ser extremistas.
Finalmente, es fundamental evidenciar la falacia de autoridad de la IA, a t=
ravés
de mejorar la capacidad investigativa de los adolescentes desde la
educación secundaria.
REFERENCIAS
Autrán, R. R. (2023).
Sesgos y discriminaciones sociales de los algoritmos en Inteligencia
Artificial: Una revisión documental. Entre=
textos, 15(39),
4.
Blanco, P. R (2020, 13 diciembre). Los bulos q=
ue
la Wikipedia ha desmontado en 2020. El País. https://elpais.com/elpais/2020/12/12/hechos/1607781513=
_261053.html
Busquets, S. C., & Llorens, L. M. (2023).
Autosupervisión de alucinaciones en grandes modelos del lenguaje:
Cárdenas Gracia, J. (2001). Los argumen=
tos
jurídicos y las falacias. GODÍNEZ MÉNDEZ, WENDY A=
. Y
GARCÍA PEÑA, JOSÉ HERIBERTO (Coor=
ds.),
Metodologías: Enseñanza e investigación jurídicaS, 40.
Corredera, J. C. (2023). Inteligencia artifici=
al
generativa. In Anales de la Real academia de Doctores (Vol. 8, No=
. 3,
pp. 475-489).
Dantart, A. (2025). Inteligencia Artificial
jurídica y el desafío de la veracidad: análisis de
alucinaciones, optimización de RAG y
principios para una integración responsable. arXiv
e-prints, arXiv-250=
9.
Dunbar, M. (2025, mayo 21). Chicago Sun-Tim=
es
confirms AI was used to create reading list of books that don’t
exist. The guardian. https://w=
ww.theguardian.com/us-news/2025/may/20/chicago-sun-times-ai-summer-reading-=
list
DW. (2025, 9 julio). El chatbot
Grok de la red X lanza comentarios antisemitas.=
dw.com. https://www.dw.com/es/el-chatbot-grok-de-la-red-x-lanz=
a-comentarios-antisemitas-y-provoca-pol%C3%A9mica/a-73218627
Ferrante, E. (2021). Inteligencia artificial y
sesgos algorítmicos¿ Por qué
deberían importarnos?. Nueva sociedad, (294), 27-36.
Franganillo, Jorge; Lopezosa<=
/span>,
Carlos; Salse, Marina (2023). La inteligencia
artificial generativa en la docencia universitaria. Barcelona: Universitat de Barcelona. =
http://
Guallar, Javier; Codina, Lluís, Freixa, Pere; Pérez-Montoro, Mario. (2020
Desinformación, bulos, curación y verificación.
Revisión de estudios en iberoamérica
2017-2020. Telos: revista de Estudios
Interdisciplinarios en Ciencias Sociales, 22 (3), Venezuela. (Pp.595-613). <=
/span>www.doi.org/10.36390/telos223.09
Guevara Enríquez, G., & Herrera
Espinoza, A. (2025). El uso de Inteligencia Artificial en la educació=
;n:
The use of Artificial Inte=
lligence
in education. LATAM Revista Latinoamerican=
a De
Ciencias Sociales Y Humanidades, 6(2), 2220 – 2233. https://doi.org/10.56712/latam.v6=
i2.3763
Herrera Castrillo, C. J. (2024). Paradigma
Positivista. Boletín Científico De Las Ciencias Económ=
ico
Administrativas Del ICEA, 12(24), 29–32. =
https://doi.org/10.29057/icea.v12=
i24.12660
Juca-Maldonado, F. (2023). El impacto de la
inteligencia artificial en los trabajos académicos y de
investigación. Revista metropolitana de Ciencias
aplicadas, 6(Suplemento 1), 289-296.
Lombana-Bermúdez, A., Mejía, M. =
V.,
Céspedes, L. M. G., & Uribe, J. F. P. (2022). Cámaras de =
eco,
desinformación y campañas de desprestigio en Colombia. Un est=
udio
de Twitter y las elecciones locales de Medellín en
2019. Política y gobierno, 29(1).
Matas, A. (2018). Diseño del formato de
escalas tipo Likert: un estado de la cuestión. Revista
electrónica de investigación educativa, 20(1), 38-47.
Meta AI. (2024). M=
eta
Llama 3.1: The most capabl=
e
openly available
Morcillo, N. (2025, febrero 18). Sentenci=
as
falsas, leyes extranjeras y filtrado de datos: los riesgos de usar ChatGPT se cuelan en los despachos de abogados. Edici=
ones
EL PAÍS S.L. https://elpais.com/economia/2025-02-18/sentencias-fals=
as-leyes-extranjeras-y-filtrado-de-datos-los-riesgos-de-usar-chatgpt-se-cue=
lan-en-los-despachos-de-abogados.html
Oñate Mercado, R. J., Beltrán
Torres, C. P., Domínguez Beleño, M. A., & Ortiz Cuadro, S=
. O.
C. (2025). LA LÓGICA EN EL CRISOL DE LA COTIDIANIDAD: UN ANÁL=
ISIS
DE LAS FALACIAS EN LA FAMILIA. REVISTA ADELANTE-A=
HEAD, 13(1),
Pag 1–5. https://ojs.unicolombo.edu.co/index.php/adelante-ahead=
/article/view/255
Pasquinelli, Matteo (2=
022).
Cómo una máquina aprende y falla. Una gramática del er=
ror
para la Inteligencia Artificial (Traducción de Emilio Cafassi, Carolina Monti, Hernán Peckaitis
y Graciana Zarauza), Revista Hipertextos, 10(17=
), pp.
13-29. https://doi.org/10.24215/23143924=
e054
Poveda, J. F. S., & Saltos, G. D. C. (2024=
).
Algoritmos en redes sociales y estrategias comunicacionales para el
posicionamiento de medios tradicionales: Algorithms
in social media and communication strategies
for the positioning
of traditional medi=
a. LATAM
Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(6), 1670-1686=
.
Quesada, A. W. (2025, 25 abril). Citas falsas y
respuestas “confiadamente incorrectas”: los chatbots
son incapaces de atribuir las informaciones. El País. https://elpais.com/proyecto-tendencias/2025-04-25/cita=
s-falsas-y-respuestas-confiadamente-incorrectas-los-chatbots-son-incapaces-=
de-atribuir-las-informaciones.html
Redacción. (2023, 15 mayo). Qué =
es
la «alucinación» de la inteligencia artificial y por
qué es una de las fallas potencialmente más peligrosas de esta
tecnología. BBC News Mundo. https://<=
span
class=3DSpellE>www.bbc.com/mundo/noticias-65606089=
Rodríguez Antonio, R. (2022). ¿Es
Wikipedia una fuente de información confiable? La multitud responde.=
RIEE | Revista Internacional De Estudios En
Educación, 22(1), 61-69. https://d=
oi.org/10.37354/riee.2022.221
Rouhiainen, L. (2018). Inteligencia artificial.&n=
bsp;Madrid:
Alienta Editorial, 20-21.
Tucker, P. (2024, 4 en=
ero).
How often does ChatGPT push misinformation? Def=
ense
One. https://w=
ww.defenseone.com/technology/2024/01/new-paper-shows-generative-ai-its-pres=
ent-formcan-push-misinformation/393128/
Yousif, N. (2025, 27 agosto). Los padres de un
adolescente que se quitó la vida demandan a Ope=
nAI,
creadora de ChatGPT. BBC News Mundo.
Todo
el contenido de LATAM Revista
Latinoamericana de Ciencias Sociales y Humanidades, publicados en este
sitio está disponibles bajo Licencia Creative
Commons ![3D"https://revistacientifica.uamericana.edu.py/public/site/images/aduar=](3D"1411_SaltoDoisela_archivos/image017.jpg")
.
L= ATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, Asunción, Paraguay.<= o:p>
ISSN en línea: 2789-385=
5,
noviembre, 2025, Volumen VI, Número 5 p 3490.