Cuando un adolescente utiliza una herramienta de inteligencia artificial para elaborar un plan violento, la reacción inmediata suele ser señalar a la tecnología como responsable. Sin embargo, esa explicación es tan rápida como insuficiente: una plataforma puede facilitar, amplificar o acelerar determinadas acciones, pero no crea por sí sola el abandono, el odio, el aislamiento ni la decisión de causar daño.
Como profesor de Educación Superior en Informática, considero indispensable discutir los riesgos reales de la IA y exigir sistemas de protección eficaces. Pero también resulta necesario advertir que convertirla en la causa principal de una amenaza extrema desvía la mirada de preguntas mucho más incómodas: qué estaba sucediendo en la vida de ese adolescente, qué señales había manifestado, qué acompañamiento recibía y qué responsabilidades corresponden a los adultos, las instituciones y el Estado.
La herramienta cambia, el problema permanece
Antes de la aparición de la inteligencia artificial generativa ya existían adolescentes que fantaseaban con ataques, escribían planes en cuadernos, buscaban información en libros, navegaban por foros, consumían contenidos violentos o intercambiaban mensajes con otras personas.
La IA modificó la velocidad y la forma de acceder a la información, pero no inventó la violencia juvenil. Tampoco creó el resentimiento, el fanatismo, la fascinación por las masacres, la falta de empatía o el deseo de reconocimiento que pueden intervenir en algunos episodios.
Atribuirle intenciones humanas a un sistema informático es, además, conceptualmente equivocado. Una inteligencia artificial no posee conciencia moral, voluntad ni responsabilidad penal. Procesa información y genera respuestas según su diseño, sus datos y las medidas de seguridad incorporadas.
Esto no significa que todas las plataformas sean inocuas. Una IA con controles deficientes puede proporcionar información peligrosa, reforzar ideas dañinas o actuar como un amplificador frente a una persona vulnerable. Por esa razón, las empresas desarrolladoras deben implementar mecanismos de prevención, rechazar solicitudes vinculadas con la violencia y actuar ante riesgos graves e identificables dentro del marco legal correspondiente.
Pero una herramienta capaz de amplificar un problema no necesariamente es su origen.
No existe una causa única para la violencia juvenil
La violencia extrema no puede explicarse mediante una relación lineal entre una consulta digital y una conducta. La Organización Mundial de la Salud identifica múltiples factores de riesgo vinculados con la violencia juvenil: exposición a la violencia familiar, escasa supervisión parental, prácticas disciplinarias inconsistentes, bajo compromiso con la escuela, consumo problemático, vinculación con grupos delictivos, acceso a armas, desigualdad y falta de protección social.
El mismo organismo sostiene que la prevención requiere un abordaje integral que incluya a las familias, las escuelas, los servicios de salud, las políticas sociales, las comunidades y los organismos de seguridad. No propone prohibir una herramienta aislada como solución, porque el fenómeno es mucho más complejo.
Por eso, cuando se descubre que un adolescente había utilizado una IA para planificar un ataque, la pregunta no debería limitarse a “¿qué le respondió el sistema?”. También deberíamos preguntarnos:
- ¿Desde cuándo expresaba pensamientos violentos?
- ¿Había comunicado amenazas a sus compañeros?
- ¿Sufría o ejercía situaciones de hostigamiento?
- ¿Tenía acceso a armas u otros elementos peligrosos?
- ¿Qué acompañamiento adulto tenía fuera de la escuela?
- ¿Existían cambios bruscos en su conducta?
- ¿Había difundido mensajes, imágenes o advertencias?
- ¿Alguien detectó esas señales y supo cómo intervenir?
Estas preguntas no buscan justificar al posible agresor. Comprender los factores que intervienen en una conducta violenta no significa disculparla. Significa construir una prevención más seria que la simple búsqueda de un culpable tecnológico.
La responsabilidad adulta no puede delegarse en una pantalla
Un adolescente necesita adultos que acompañen, escuchen, establezcan límites y se interesen por su vida, tanto presencial como digital. Entregarle un teléfono o una computadora no transfiere automáticamente la responsabilidad educativa a la plataforma que aparezca en la pantalla.
La familia tiene un papel insustituible. Esto incluye conocer los entornos digitales que frecuentan los hijos, observar cambios de comportamiento, conversar sin reducir todo a un interrogatorio, establecer acuerdos de uso y solicitar ayuda profesional cuando aparecen señales preocupantes.
Supervisar no significa espiar permanentemente. Significa ejercer una presencia adulta real. También implica aceptar que el conocimiento técnico de los adolescentes no siempre está acompañado por la madurez emocional necesaria para comprender las consecuencias de sus decisiones.
La alfabetización digital, por lo tanto, no puede limitarse a enseñar cómo utilizar una aplicación. Debe incorporar pensamiento crítico, privacidad, convivencia, responsabilidad, reconocimiento de contenidos manipuladores y comprensión de que cada acción realizada en línea puede afectar a personas reales.
Una escuela que contiene cada vez más y recibe cada vez menos apoyo
Las escuelas vienen asumiendo funciones que exceden ampliamente la enseñanza de contenidos. Los docentes detectan cambios emocionales, median en conflictos familiares, intervienen frente al acoso, acompañan crisis personales, registran situaciones de vulneración de derechos y activan protocolos cuando aparece una amenaza.
En muchas oportunidades, la escuela se convierte en el primer espacio que escucha y en la última institución que todavía permanece cerca del adolescente. Pero no puede transformarse en consultorio psicológico, organismo de protección, centro de asistencia social y dispositivo de seguridad al mismo tiempo, especialmente cuando no recibe los recursos ni los equipos interdisciplinarios necesarios.
Defender el compromiso tutorial de la escuela no significa aceptar que toda responsabilidad social sea depositada sobre ella. Un profesor puede advertir una conducta, escuchar, orientar y comunicarla. No puede reemplazar a una familia ausente, realizar un diagnóstico clínico ni garantizar por sí solo la continuidad de un tratamiento.
La UNESCO plantea que la prevención de la violencia escolar requiere un enfoque integral con participación de todo el sistema educativo y de otros sectores vinculados con la protección de niños y adolescentes. También reconoce la violencia que sufren docentes y trabajadores escolares, una dimensión que suele quedar relegada en el debate público.
La pedagogía no consiste en encontrar culpables cómodos
El pedagogo francés Philippe Meirieu sostiene que educar supone introducir al estudiante en un mundo común y, al mismo tiempo, ayudarlo a construir autonomía. Esa autonomía no aparece espontáneamente por saber manejar un dispositivo. Se forma mediante límites, responsabilidades, vínculos y la posibilidad de comprender que los demás existen y merecen respeto.
Desde otra perspectiva contemporánea, la investigadora argentina Inés Dussel ha estudiado cómo las tecnologías transforman la escuela y la cultura, pero siempre dentro de relaciones sociales e institucionales previas. Los dispositivos no ingresan a un vacío: son utilizados por sujetos que poseen una historia, determinadas condiciones de vida y modos particulares de relacionarse.
La especialista argentina Mariana Maggio también ha insistido en la necesidad de integrar las tecnologías a propuestas educativas con sentido. No alcanza con incorporar herramientas: es necesario enseñar a analizarlas, comprender sus alcances y utilizarlas de manera crítica.
Estas miradas permiten salir de dos posiciones igualmente pobres. Una consiste en presentar a la IA como una solución mágica para todos los problemas educativos. La otra, en convertirla en la responsable automática de cada conducta preocupante protagonizada por un joven.
Prohibir puede tranquilizar a los adultos, pero no resuelve el problema
Ante un hecho grave, prohibir una aplicación produce una sensación inmediata de control. Sin embargo, un adolescente decidido a buscar información peligrosa puede recurrir a otros sistemas, páginas, videos, comunidades virtuales o materiales disponibles fuera de Internet.
La prohibición aislada no enseña criterio ni permite reconocer señales de riesgo. Incluso puede desplazar determinadas prácticas hacia espacios menos visibles para las familias y las instituciones.
La respuesta necesaria es mucho más exigente: educación digital desde edades tempranas, acompañamiento familiar, protocolos claros, formación docente, equipos de orientación suficientes, atención accesible de la salud mental y canales eficaces para comunicar amenazas.
También se debe exigir responsabilidad a las empresas tecnológicas. Defender la inteligencia artificial no significa concederles impunidad a sus desarrolladores. Los sistemas destinados al público general deben impedir la asistencia para cometer actos violentos, incorporar protecciones especiales para menores y ofrecer respuestas adecuadas ante expresiones que revelen un peligro inmediato.
La salud mental tampoco debe convertirse en una acusación automática
Otro error frecuente consiste en vincular de manera directa los padecimientos de salud mental con la violencia. Esa asociación puede aumentar el estigma y desalentar la búsqueda de ayuda.
UNICEF explica que la salud mental de niños y adolescentes está profundamente condicionada por el entorno, las relaciones con padres y cuidadores, las amistades y las experiencias en los espacios donde aprenden y crecen. También reclama una respuesta integral para acompañar a quienes atraviesan situaciones de mayor vulnerabilidad.
No toda persona que atraviesa un sufrimiento psicológico representa un peligro. Tampoco toda amenaza puede atribuirse a un diagnóstico. Cada situación debe ser evaluada profesionalmente, sin improvisaciones, prejuicios ni etiquetas difundidas públicamente.
La IA puede incluso formar parte de la prevención
Una tecnología bien diseñada puede rechazar instrucciones peligrosas, identificar determinados patrones de riesgo y orientar al usuario hacia servicios de emergencia o canales de ayuda. También puede colaborar con docentes en la creación de materiales sobre ciudadanía digital, convivencia y pensamiento crítico.
La misma herramienta acusada de facilitar una conducta puede, bajo protocolos adecuados, contribuir a detectarla antes de que se concrete. Por eso, el debate no debería reducirse a estar a favor o en contra de la IA, sino concentrarse en cómo se diseña, bajo qué normas funciona, qué controles posee y de qué manera se enseña a utilizarla.
Dejar de mirar la herramienta para empezar a mirar al adolescente
Culpar exclusivamente a la inteligencia artificial ofrece una explicación sencilla para un problema que no lo es. Permite señalar a una tecnología nueva sin revisar las ausencias adultas, la circulación de la violencia, el acceso a armas, las comunidades digitales que glorifican ataques, la falta de atención profesional y la sobrecarga que enfrentan las escuelas.
La IA debe tener límites y las empresas deben responder por el funcionamiento de sus productos. Pero ningún control tecnológico reemplazará a una familia presente, una escuela acompañada por equipos profesionales, un sistema de salud accesible y un Estado capaz de intervenir antes de que una amenaza se convierta en una tragedia.
Como profesor de Educación Superior en Informática, defiendo una enseñanza crítica y responsable de la inteligencia artificial. Defenderla no implica negar sus riesgos. Significa negarse a convertirla en un chivo expiatorio que nos permita eludir nuestras propias responsabilidades.
Cuando un adolescente planea una masacre, el problema no comenzó el día en que abrió un chatbot. Seguramente había empezado mucho antes. La obligación de los adultos y de las instituciones es aprender a reconocerlo a tiempo.
