IA și detectarea timpurie a riscului de auto-vătămare la tineri pe social media

Răspuns rapid: Instrumentele AI pentru detectarea riscului pe rețele sociale sunt experimentale, cu false pozitive/negative. Părinții și tinerii au nevoie de evaluare umană și plan de siguranță. La risc imediat, 112.

În ultimii ani, pe X (fostul Twitter), Instagram și alte platforme, discuțiile despre sănătatea mintală a tinerilor s-au intensificat. Hashtag-uri precum #YouthMentalHealth adună mărturii reale, glume, hyperbole și, uneori, mesaje de ajutor strigate printre rânduri. Pentru specialiști și platforme, marea provocare este să distingă rapid între „vorbe în vânt” și semnale reale de risc de auto-vătămare.

Un studiu publicat în 2026 în JMIR Mental Health, „Triaging Casual From Critical, Leveraging Machine Learning to Detect Self-Harm and Suicide Risks for Youth on Social Media”, arată cum modelele de inteligență artificială pot ajuta la această triere, fără a înlocui însă rolul medicilor și psihologilor.

Ce a analizat studiul JMIR Mental Health 2026

Echipa de cercetare a analizat conversații online ale tinerilor (13, 21 de ani) pentru a identifica limbaj legat de auto-vătămare și suicid. Au folosit modele de tip BERT și DistilBERT (rețele neuronale specializate în înțelegerea limbajului natural) pentru a clasifica mesajele în mai multe categorii:

• mesaje care vorbesc despre experiențe personale (Self);
• mesaje care descriu experiențele altora (Other);
• postări de tip „hyperbole”, glume, expresii exagerate („îmi vine să…”) fără intenție reală de auto-vătămare.

Modelele au reușit să detecteze cu acuratețe foarte mare mesajele care conțineau limbaj legat de auto-vătămare și, chiar dacă performanța scade când trebuie diferențiate categoriile fine, rezultatele arată că IA poate ajuta la trierea inițială a volumelor mari de conținut.

De ce contează asta pentru tineri și pentru siguranța online

Platformele de social media sunt adesea primul loc unde tinerii își exprimă suferința, uneori înainte să vorbească cu un prieten sau cu un adult. Dacă sistemele automate pot semnala mai rapid mesajele cu risc ridicat, atunci echipele de siguranță și profesioniștii pot interveni mai repede:

• prin afisarea de resurse de criză (numere de telefon, chat-uri de suport);
• prin notificarea unor echipe specializate, acolo unde există astfel de parteneriate;
• prin ajustarea algoritmilor astfel încât conținutul dăunător să fie vizibil mai puțin.

Cercetătorii subliniază însă clar: niciun algoritm nu poate înlocui un profesionist. Modelele pot reduce „zgomotul” și pot scoate în evidență mesajele critice, dar deciziile de îngrijire, diagnostic și tratament rămân responsabilitatea echipelor medicale.

Șanse și limite: ce poate și ce nu poate face IA

Printre avantajele utilizării IA în acest context:

• poate analiza volume uriașe de mesaje într-un timp scurt;
• poate învăța modele subtile de limbaj folosit de tineri (inclusiv slang sau ironie);
• poate îmbunătăți detectarea mesajelor care altfel ar trece neobservate.

Limitările sunt însă la fel de importante:

• modelele pot greși, pot confunda o glumă cu un mesaj de ajutor real sau invers;
• contextul cultural și lingvistic (inclusiv în România) poate fi foarte diferit de datele pe care au fost antrenate modelele;
• există îngrijorări de confidențialitate, cum sunt folosite și protejate datele tinerilor.

De aceea, recomandarea specialiștilor este ca IA să fie folosită ca instrument de sprijin pentru echipele umane, nu ca decident final.

Ce poți face dacă ești îngrijorat pentru cineva (în România)

Dacă vezi online mesaje care sugerează că o persoană ar putea fi în pericol (de exemplu, vorbește despre faptul că nu mai vrea să trăiască sau că își face rău), este important să tratezi situația serios, chiar dacă nu ești sigur dacă „glumește” sau nu. Câteva repere:

• dacă pericolul pare iminent, apelează imediat 112 și explică situația;
• încurajează persoana să vorbească cu un adult de încredere sau cu un specialist (psiholog, psihiatru);
• poți sugera și accesarea unui serviciu de telemedicină pentru sănătate mintală, unde se poate discuta rapid cu un medic.

În România, platforme dedicate precum TeleMind, psihiatru online în România pot oferi o evaluare rapidă de către un medic psihiatru, prin consultații video, în condiții de confidențialitate și siguranță. Pentru unele situații, este nevoie de prezentare la urgență psihiatrică; un specialist te poate îndruma asupra celor mai potriviți pași.

Referințe

Studiu principal: articolul „Triaging Casual From Critical, Leveraging Machine Learning to Detect Self-Harm and Suicide Risks for Youth on Social Media: Algorithm Development and Validation Study”, publicat în JMIR Mental Health în 2026.