L’era dell’intelligenza artificiale nei compiti

La società di sicurezza informatica ESET ha attirato l'attenzione sulle minacce derivanti dall'uso improprio delle tecnologie di intelligenza artificiale e ha sottolineato la necessità di prestare attenzione sia all'accuratezza delle informazioni che ai rischi di frode. 

Il rapido sviluppo della tecnologia porta anche a cambiamenti significativi nel campo dell'istruzione. Soprattutto con la diffusione delle tecnologie di intelligenza artificiale, i processi con cui gli studenti accedono alle informazioni, fanno ricerche e preparano i compiti sono stati in larga misura trasformati. Oggi molti studenti preparano i compiti, accelerano la ricerca e supportano i processi di apprendimento utilizzando strumenti basati sull’intelligenza artificiale. Gli strumenti basati sull’intelligenza artificiale sono visti come un potente aiuto all’apprendimento per gli studenti. Grazie a questi strumenti, gli studenti possono apprendere rapidamente argomenti complessi e comprendere più facilmente diverse fonti. Aiuta inoltre gli studenti a creare un quadro generale sull'argomento durante il processo di ricerca, a determinare i titoli principali e a scoprire su quali aspetti può concentrarsi la ricerca. 

Tuttavia, esistono alcuni rischi e limitazioni nell'utilizzo dell'intelligenza artificiale. I principali tra questi sono l’onestà accademica e l’accuratezza delle informazioni. Sebbene i sistemi di intelligenza artificiale producano risposte basate su un’ampia gamma di fonti di dati, potrebbero non sempre fornire informazioni completamente accurate, aggiornate o contestuali. D’altro canto, emergono i rischi per la sicurezza. Si raccomanda agli studenti di non condividere i propri dati personali e informazioni scolastiche su queste piattaforme mentre preparano i compiti, perché alcuni servizi di intelligenza artificiale possono archiviare o elaborare l'input degli utenti per migliorare i propri sistemi.

L'intelligenza artificiale può anche diventare uno strumento dei criminali informatici

Gli esperti ESET hanno anche attirato l'attenzione sulle minacce che derivano dall'uso improprio delle tecnologie produttive di intelligenza artificiale. L'ingegneria sociale è uno dei metodi frequentemente utilizzati dai criminali informatici per le frodi. In questi attacchi si è cominciato a utilizzare metodi supportati dall'intelligenza artificiale, che di solito vengono effettuati tramite e-mail, messaggi o telefonate di phishing. Grazie ai modelli linguistici di grandi dimensioni (LLM), gli autori delle minacce possono creare messaggi di phishing più convincenti e persino provare a ingannare gli utenti producendo audio e video deepfake. Tali tecnologie possono consentire la produzione di contenuti sufficientemente realistici da raggiungere anche gli utenti più scettici. Secondo gli esperti, gli utenti non dovrebbero dare per scontato che i risultati dell’intelligenza artificiale siano sempre accurati o affidabili. I rischi informatici possono aumentare quando si uniscono i metodi creativi sviluppati dagli autori delle minacce per aggirare i meccanismi di sicurezza e l'eccessiva fiducia degli utenti nelle risposte dell'intelligenza artificiale.

È importante che gli studenti utilizzino l'intelligenza artificiale consapevolmente

Affinché l'apprendimento supportato dall'intelligenza artificiale possa essere utilizzato efficacemente nell'istruzione, è importante che gli insegnanti guidino questo processo. Sebbene alcuni siano ancora cauti nei confronti dell’intelligenza artificiale, studenti e giovani utilizzano attivamente queste tecnologie. Pertanto, gli studenti devono imparare a utilizzare l’intelligenza artificiale in modo corretto ed etico. Gli esperti affermano che gli strumenti di intelligenza artificiale possono essere utilizzati per scopi di supporto come lo sviluppo di idee, l’ottenimento di informazioni preliminari sull’argomento o la modifica di testi; Tuttavia, sottolinea che preparare gli incarichi interamente tramite l'intelligenza artificiale non è l'approccio giusto.

Raccomandazioni di sicurezza per l'uso dell'intelligenza artificiale

L'uso diffuso di strumenti di intelligenza artificiale inaugura una nuova era nei metodi di phishing e frode. Per questo motivo gli utenti dovrebbero sempre interrogarsi quando valutano le informazioni provenienti dall’intelligenza artificiale. Gli esperti ESET danno i seguenti suggerimenti:

• Assicurati di confrontare le informazioni ricevute dall'intelligenza artificiale con fonti affidabili.
• Non condividere i tuoi dati personali e informazioni private con chat bot
• Fai attenzione ai collegamenti sospetti o ai file scaricabili.
• Se è presente un collegamento fornito dall'intelligenza artificiale, controlla l'indirizzo.Se sembra sospetto, non fare clic su di esso.
• Avvicinati sempre all'output dell'IA con cautela; verificare, soprattutto se suggerimenti o risposte sembrano inaspettati.
• Utilizza password complesse e univoche e abilita l'autenticazione a più fattori per ridurre il rischio di furto di credenziali.
• Assicurati che i tuoi dispositivi, sistemi operativi e software siano aggiornati.
• Utilizza la protezione multilivello di un fornitore di sicurezza affidabile contro malware, attacchi di phishing e altre minacce.

Gli strumenti di intelligenza artificiale possono essere un potente strumento per gli studenti se utilizzati correttamente, dicono gli esperti. può offrire supporto all’apprendimento. Tuttavia, il modo per rimanere al sicuro nel mondo digitale è utilizzare la tecnologia consapevolmente e mettere in discussione tutti i tipi di informazioni.