Era de la inteligencia artificial en los deberes

La empresa de ciberseguridad ESET llamó la atención sobre las amenazas que surgen del mal uso de las tecnologías de inteligencia artificial y subrayó la necesidad de tener cuidado tanto con la precisión de la información como con los riesgos de fraude. 

El rápido desarrollo de la tecnología también conduce a cambios significativos en el campo de la educación. Especialmente con la difusión de las tecnologías de inteligencia artificial, los procesos mediante los cuales los estudiantes acceden a la información, realizan investigaciones y preparan las tareas se han transformado en gran medida. Hoy en día, muchos estudiantes preparan sus tareas, aceleran sus investigaciones y apoyan sus procesos de aprendizaje mediante el uso de herramientas basadas en inteligencia artificial. Las herramientas impulsadas por IA se consideran una poderosa ayuda de aprendizaje para los estudiantes. Gracias a estas herramientas, los estudiantes pueden aprender rápidamente sobre temas complejos y comprender diferentes fuentes con mayor facilidad. También ayuda a los estudiantes a crear un marco general sobre el tema durante el proceso de investigación, determinar los títulos principales y descubrir en qué aspectos se puede centrar la investigación. 

Sin embargo, existen algunos riesgos y limitaciones al utilizar la inteligencia artificial. Los principales son la honestidad académica y la exactitud de la información. Aunque los sistemas de inteligencia artificial producen respuestas basadas en una amplia gama de fuentes de datos, es posible que no siempre proporcionen información completamente precisa, actualizada o contextual. Por otro lado, los riesgos de seguridad pasan a primer plano. Se recomienda que los estudiantes no compartan sus datos personales e información escolar en estas plataformas mientras preparan la tarea, porque algunos servicios de inteligencia artificial pueden almacenar o procesar las entradas de los usuarios para mejorar sus sistemas.

La inteligencia artificial también puede convertirse en una herramienta de los ciberdelincuentes

Los expertos de ESET también llamaron la atención sobre las amenazas que surgen con el uso indebido de tecnologías productivas de inteligencia artificial. La ingeniería social es uno de los métodos utilizados frecuentemente por los ciberdelincuentes para cometer fraude. En estos ataques se han comenzado a utilizar métodos apoyados en inteligencia artificial, que normalmente se llevan a cabo a través de correos electrónicos, mensajes o llamadas telefónicas de phishing. Gracias a los modelos de lenguaje grande (LLM), los actores de amenazas pueden crear mensajes de phishing más convincentes e incluso intentar engañar a los usuarios produciendo audio y vídeos deepfake. Estas tecnologías pueden permitir la producción de contenidos lo suficientemente realistas como para dirigirse incluso a los usuarios más escépticos. Según los expertos, los usuarios no deben dar por sentado que los resultados de la inteligencia artificial son siempre precisos o fiables. Los riesgos cibernéticos pueden aumentar cuando se combinan los métodos creativos desarrollados por los actores de amenazas para eludir los mecanismos de seguridad y el exceso de confianza de los usuarios en las respuestas de la inteligencia artificial.

Es importante que los estudiantes utilicen la inteligencia artificial de manera consciente

Para que el aprendizaje respaldado por inteligencia artificial se utilice de manera efectiva en la educación, es importante que los docentes guíen este proceso. Aunque algunas personas todavía se muestran cautelosas con respecto a la inteligencia artificial, los estudiantes y jóvenes utilizan activamente estas tecnologías. Por tanto, los estudiantes deben aprender a utilizar la inteligencia artificial de forma correcta y ética. Los expertos dicen que las herramientas de inteligencia artificial se pueden utilizar con fines de apoyo como desarrollar ideas, obtener información preliminar sobre el tema o editar textos; Sin embargo, enfatiza que preparar tareas enteramente mediante inteligencia artificial no es el enfoque correcto.

Recomendaciones de seguridad para el uso de inteligencia artificial

El uso generalizado de herramientas de inteligencia artificial marca el comienzo de una nueva era en los métodos de phishing y fraude. Por este motivo, los usuarios siempre deben hacerse preguntas a la hora de evaluar la información proveniente de la inteligencia artificial. Los expertos de ESET hacen las siguientes sugerencias:

• Asegúrese de comparar la información recibida de la inteligencia artificial con fuentes confiables.
• No comparta sus datos personales e información privada con chatbots
• Tenga cuidado con los enlaces sospechosos o archivos descargables.
• Si hay un enlace proporcionado por la inteligencia artificial, verifique la dirección.Si parece sospechoso, no haga clic en él.
• Acérquese siempre a la salida de IA con precaución; verifique, especialmente si las sugerencias o respuestas parecen inesperadas.
• Utilice contraseñas seguras y únicas y habilite la autenticación multifactor  para reducir el riesgo de robo de credenciales.
• Asegúrese de que sus dispositivos, sistemas operativos y software estén actualizados.
• Utilice protección multicapa de un proveedor de seguridad confiable contra malware, ataques de phishing y otras amenazas.

Las herramientas de inteligencia artificial pueden ser una herramienta poderosa para los estudiantes cuando se usan correctamente, dicen los expertos. puede ofrecer apoyo al aprendizaje. Sin embargo, la forma de mantenerse seguro en el mundo digital es utilizar la tecnología de forma consciente y cuestionar todo tipo de información.