Cine auditează algoritmul? Europa transformă siguranța online într-un test al dovezilor

Cadrul legislativ digital al Europei intră într-o fază mult mai riguroasă. Nu mai este suficient ca o platformă să publice politici de securitate sau să declare că recomandările dăunătoare au fost reduse. Autoritățile de reglementare, cercetătorii și grupurile societății civile cer tot mai multe dovezi clare: evaluare riscuri, acces la date, măsuri de atenuare măsurabile și explicații despre modul în care funcționează sistemele de recomandare. O masă rotundă a Comisiei Europene desfășurată pe 23 septembrie 2026 a plasat această problemă a dovezilor în centrul eforturilor de aplicare DSA (Digital Services Act), alături de protecția minorilor, piețele online, riscurile legate de IA și noua propunere legislativă Legea KIDS, promovând o cultură de siguranță prin design și o reală responsabilitate a platformei prin transparență algoritmică.

Idei principale

• Pe 23 septembrie 2026, Comisia Europeană a organizat a cincea masă rotundă DSA cu aproximativ 60 de organizații ale societății civile și cercetători, axată pe riscuri sistemice și măsuri de atenuare.
• Discuția a examinat rapoartele de evaluare a riscurilor platformelor, cercetarea independentă, accesul la date și barierele practice în monitorizarea marilor servicii online.
• Conform DSA, platformele accesibile minorilor trebuie să ia măsuri adecvate pentru a asigura un nivel ridicat de confidențialitate și securitate pentru utilizatorii tineri.
• Propunerea EU KIDS Act ar putea extinde acest model, cerând serviciilor relevante să demonstreze că sunt adaptate vârstei și sigure prin design.
• Pentru utilizatori, întrebarea esențială se schimbă: de la „Are această platformă o politică de siguranță?” la „Poate platforma să demonstreze că produsul său reduce efectiv riscurile?”

Europa face tranziția de la promisiuni la dovezi în ceea ce privește siguranța online, cerând platformelor să arate cum identifică și reduc riscurile sistemele lor.

De la promisiuni de siguranță la dovezi concrete

Ani de zile, conversația publică despre platformele sociale s-a învârtit în jurul regulilor: standarde ale comunității, butoane de raportare, control parental și declarații despre conținutul dăunător.

Aceste elemente contează în continuare. Însă modelul de reglementare european este tot mai interesat de ceea ce se întâmplă „sub capotă”.

Pe 25 septembrie, Comisia Europeană a publicat un raport al celei de-a cincea mese rotunde cu societatea civilă și cercetătorii privind implementarea Legii serviciilor digitale. Întâlnirea, care a avut loc pe 23 septembrie, a reunit aproximativ 60 de organizații.

Accentul a fost pus pe riscul sistemic și atenuare: cum identifică platformele riscurile create de serviciile lor, ce măsuri iau și cum pot experții externi să verifice dacă acele măsuri chiar funcționează.

Participanții au discutat despre analiza rapoartelor de evaluare a riscurilor, metode de cercetare, accesul la date și dificultățile practice întâmpinate. Comisia a subliniat, de asemenea, prioritățile recente de aplicare, inclusiv protecția minorilor, piețele online, riscurile IA și propunerea KIDS Act.

Poate suna tehnic, dar, în practică, vizează una dintre cele mai importante întrebări ale politicii tehnologice moderne: cine are dreptul să verifice dacă un algoritm face ceea ce compania susține că face?

Siguranța prin design analizează dacă arhitectura produsului în sine reduce riscurile previzibile — nu doar dacă există o politică scrisă pe undeva.

De ce au algoritmii nevoie de monitorizare

O platformă socială nu este doar o colecție de postări. Sistemele de clasificare decid ce apare prima dată. Sistemele de recomandare decid ce urmează. Notificările decid când sunt utilizatorii atrași înapoi. Căutarea, conturile sugerate, redarea automată și predicțiile de engagement — toate modelează experiența utilizatorului.

Pentru un copil, aceste sisteme pot conta la fel de mult ca regulile de conținut în sine.

O platformă ar putea interzice materialele dăunătoare, dar să folosească un sistem de recomandare care direcționează repetat un utilizator vulnerabil către conținut la limita regulamentului sau tot mai extrem. Poate oferi controale parentale prezente tehnic, dar greu de găsit. Sau poate oferi o funcție de raportare, făcând însă experiența din jur confuză sau lentă.

De aceea, siguranța prin design se concentrează pe comportamentul produsului, nu doar pe existența unei politici oficiale.

Irlanda testează deja implementarea

Autoritatea de reglementare din Irlanda, Coimisiún na Meán, este Coordonatorul Serviciilor Digitale al țării și joacă un rol central în Cadrul de Siguranță Online din Irlanda.

Autoritatea afirmă că, sub incidența DSA, furnizorii de platforme online accesibile minorilor trebuie să implementeze măsuri adecvate pentru a asigura un nivel ridicat de intimitate și siguranță pentru aceștia.

Codul de Siguranță Online al Irlandei adaugă obligații specifice pentru platformele de video-sharing desemnate. Pe 8 septembrie 2026, Coimisiún na Meán a deschis prima investigație formală sub acest Cod, examinând modul în care X implementează mecanismele de asigurare a vârstei și controlul parental.

Deschiderea unei investigații nu înseamnă o constatare a vinovăției. Această distincție este importantă. Însă cazul ilustrează direcția clară: reglementatorii nu mai verifică doar dacă o protecție există pe hârtie, ci dacă implementarea ei este eficientă, vizibilă și utilizabilă.

Legea KIDS ridică din nou ștacheta

Comisia Europeană a propus EU KIDS Act pe 17 septembrie 2026. Este o propunere, nu o lege finală, iar textul se poate modifica în procesul legislativ.

Totuși, direcția este semnificativă. Comisia afirmă că propunerea ar cere serviciilor online să fie sigure prin design și ar inversa sarcina probei, astfel încât furnizorii să demonstreze că serviciile sunt adaptate vârstei.

Propunerea stabilește, de asemenea, o vârstă de 15 ani la nivelul UE pentru conturile autonome pe rețelele sociale, alături de un model gradual pentru utilizatorii mai tineri, asigurarea vârstei și o aplicare mai strictă.

Alături de DSA, filozofia emergentă devine clară. Europa nu vrea ca siguranța copiilor să depindă doar de capacitatea copilului de a recunoaște pericolul sau a părintelui de a găsi o setare ascunsă. Se așteaptă ca serviciul în sine să identifice riscurile și să construiască soluții tehnice împotriva lor.

Cercetătorii și organizațiile societății civile sunt tot mai importanți pentru monitorizarea independentă a riscurilor sistemice online.

Ce presupune, de fapt, un audit al algoritmilor?

Nu există un singur test magic pentru un sistem de recomandare. O examinare serioasă necesită mai multe straturi de dovezi. Cercetătorii trebuie să înțeleagă ce semnale influențează clasificarea, cum diferă recomandările între grupurile de utilizatori și dacă intervențiile de siguranță schimbă rezultatele.

Accesul este vital, deoarece experții externi nu pot evalua o platformă complexă doar din capturi de ecran publice. Totuși, accesul trebuie să respecte confidențialitatea utilizatorilor și protecția informațiilor confidențiale.

Acest lucru creează un echilibru dificil: suficientă transparență pentru un control serios, fără a crea noi riscuri pentru datele personale.

Masa rotundă a Comisiei din septembrie este importantă tocmai pentru că cercetătorii sunt parte din ecuație. Autoritățile nu pot reproduce individual fiecare experiență a utilizatorului pe fiecare platformă majoră. Expertiza independentă ajută la identificarea tiparelor și la testarea afirmațiilor companiilor în fața comportamentului din lumea reală.

Întrebările la care platformele ar trebui să poată răspunde

O afirmație privind siguranța ar trebui să fie testabilă.

Dacă o companie spune că a redus contactele nesolicitate ale adulților cu minorii, ce s-a schimbat și ce dovezi arată această reducere?

Dacă spune că un sistem de recomandare este mai sigur pentru adolescenți, cum este măsurată această „siguranță”?

Dacă afirmă că verificarea vârstei previne accesul minorilor la materiale restricționate, cât de robust este procesul — și ce date personale colectează?

Dacă există un control parental, pot părinții obișnuiți să îl găsească și să îl înțeleagă?

Aceste întrebări mută dezbaterea de la sloganuri către rezultate concrete.

O funcție de siguranță contează doar dacă oamenii o pot găsi, înțelege și folosi eficient.

Ce înseamnă acest lucru pentru Safegram — live, în dezvoltare și planificat

Poziția editorială a Safegram este că încrederea ar trebui să fie integrată prin design într-o platformă și susținută de dovezi, nu tratată ca o simplă afirmație de marketing.

Funcționalitățile Safegram active includ participarea verificată pentru tipurile de conturi relevante, comunicarea orientată spre confidențialitate, funcționalitatea Safegram Exchange și instrumente pentru afaceri și creatori. Safegram a dezvoltat, de asemenea, o arhitectură de siguranță pentru adolescenți și familii care să permită o separare mai puternică între aceștia și adulți în zonele de descoperire și mesagerie, păstrând în același timp confidențialitatea conversațiilor.

Aceste elemente destinate familiilor trebuie descrise ca fiind în faza de dezvoltare, testare sau lansare etapizată, cu excepția cazului în care o funcție a fost confirmată în versiunea curentă de producție. Safegram nu va pretinde că are un program formal de audit al algoritmilor DSA, o certificare de conformitate cu Legea KIDS sau evaluări de risc aprobate de autorități până când aceste sisteme nu sunt stabilite și verificate oficial. Identitatea este gestionată prin Didit, Safegram nefiind implicată în stocarea documentelor de identitate sau a datelor biometrice.

Oportunitatea este de a construi spre o siguranță măsurabilă încă de la început: definim ce trebuie să obțină o funcție, înregistrăm rezultatele, minimizăm datele personale inutile și facem protecțiile ușor de înțeles.

Acest lucru este mult mai valoros decât a spune „aveți încredere în noi”. Creează posibilitatea de a arăta de ce încrederea este meritată.

De ce contează acest lucru dincolo de Big Tech

Cele mai mari platforme atrag cea mai mare atenție, dar lecția este relevantă și pentru serviciile mai mici.

Startup-urile au adesea un avantaj: pot face alegeri de arhitectură înainte ca sistemele vechi și interesele publicitare să facă schimbările costisitoare.

O platformă tânără poate decide devreme dacă minorii și adulții ar trebui să interacționeze în același mod. Poate decide dacă verificarea este doar cosmetică sau legată de responsabilitate. Poate proiecta reguli de raportare și mesagerie înainte ca tiparele dăunătoare să se înrădăcineze.

Dar „mai mic” nu înseamnă automat „mai sigur”. Intențiile bune nu sunt dovezi. Aceeași disciplină se aplică: definește riscurile, testează controalele, documentează deciziile și îmbunătățește atunci când dovezile arată o slăbiciune.

Următoarea fază a siguranței online

Dezbaterea despre siguranța online în Europa devine mai puțin abstractă.

DSA a creat obligații privind riscul sistemic. Irlanda face pași spre investigații sub Codul său de Siguranță Online. Propunerea Legii KIDS ar adăuga un regim mai explicit de siguranță prin design pentru copii. Cercetătorii presează pentru accesul necesar examinării comportamentului platformelor.

Rezultatul este un nou standard de credibilitate.

O pagină de siguranță pe un site este utilă. O setare este utilă. O politică este utilă. Dar, tot mai mult, întrebarea decisivă va fi dacă o platformă poate demonstra că sistemele sale produc rezultate mai sigure.

Pentru următoarea generație de tehnologie socială, aceasta ar putea deveni linia de demarcație între siguranța ca branding și siguranța ca inginerie.

Întrebări frecvente (FAQ)

Ce este Legea serviciilor digitale (DSA)?

Legea serviciilor digitale este legislația la nivelul UE care reglementează serviciile intermediare online. Printre alte obligații, creează îndatoriri legate de conținutul ilegal, transparență, riscuri sistemice și protecția drepturilor fundamentale. Platformele accesibile minorilor trebuie să asigure un nivel ridicat de siguranță prin design.

Ce este un risc sistemic?

În contextul DSA, riscurile sistemice sunt riscuri la scară largă legate de proiectarea, funcționarea sau utilizarea platformelor foarte mari. Evaluarea riscurilor poate viza conținutul ilegal, drepturile fundamentale, securitatea publică și efectele asupra minorilor.

Pot cercetătorii să inspecteze algoritmii platformelor?

Există mecanisme sub DSA pentru accesul cercetătorilor verificați la anumite date de la platformele foarte mari, sub rezerva cerințelor legale. Accesul practic la date rămâne un subiect activ de discuție pentru a asigura transparența algoritmică.

De ce s-a întâlnit Comisia Europeană cu cercetătorii în septembrie 2026?

A cincea masă rotundă DSA, desfășurată pe 23 septembrie, s-a concentrat pe responsabilitatea platformei, atenuarea riscurilor sistemice, accesul la date și provocările practice ale cercetării independente.

Este Legea KIDS deja în vigoare?

Nu. Comisia Europeană a propus-o pe 17 septembrie 2026. Trebuie să treacă prin procesul legislativ al UE, iar regulile finale se pot modifica înainte de a deveni obligatorii.

Implementează Irlanda deja reguli de siguranță online?

Da. Coimisiún na Meán supraveghează cadrul de siguranță din Irlanda și este Coordonatorul Serviciilor Digitale. Pe 8 septembrie 2026, a deschis prima investigație formală sub Codul de Siguranță Online.

Are Safegram în prezent un program independent de audit al algoritmilor?

Safegram nu ar trebui să pretindă că un astfel de program este activ până când nu a fost implementat și verificat formal. Direcția sa de siguranță se bazează pe controale măsurabile, dar guvernanța în dezvoltare este marcată ca atare.

Referințe sursă

1. Comisia Europeană, „A cincea masă rotundă cu organizațiile societății civile și cercetătorii privind implementarea DSA”, 25 septembrie 2026.
2. Comisia Europeană, „EU KIDS Act pentru restricționarea accesului platformelor sociale la copii în UE”, 17 septembrie 2026.
3. Comisia Europeană, „Propunere pentru EU KIDS Act”, 17 septembrie 2026.
4. Comisia Europeană, „KIDS Act”, Shaping Europe’s Digital Future, actualizat 18 septembrie 2026.
5. Coimisiún na Meán, „Digital Services Act”, Online Safety Framework.
6. Coimisiún na Meán, „Investigație începută împotriva X sub Codul de Siguranță Online”, 8 septembrie 2026.