Seria Agenți autonomi · #2 · partea 2 · Producție

Agenți autonomi în producție, partea 2: trei rute industriale și documentele necesare

Prima parte a acestei analize a clarificat cadrul normativ, și opinia noastră este că presiunea de conformitate vine mai ales prin lanțul comercial, de la integratorul mare către producătorul de subansambluri.

Formularele de evaluare a furnizorilor nu par încă standardizate, cel puțin nu am identificat un model public unic pentru AI. De asemenea, o cerință contractuală nu trebuie confundată cu o obligație legală directă.

Pentru un director de producție sau de operațiuni, întrebarea este simplă: ce fac când un client îmi cere dovadă de control asupra sistemelor informatice și algoritmice pe care le folosesc?

Răspunsul depinde de încadrarea produsului în lanțul valoric. În loc de o rețetă unică, iată traseul aplicabil fiecăreia dintre cele trei situații industriale.

Ruta 1: Producător de mașini și utilaje (Secțiunea B)

  • Status legal: Te afli sub incidența Regulamentului privind mașinile (UE) 2023/1230 (Anexa I, Secțiunea B, punctul 21 din AI Act). Atenție: alte echipamente industriale, de exemplu lifturile, echipamentele ATEX sau cele sub presiune, sunt în Secțiunea A.
  • Ce cere legea: Dacă modulul AI este o funcție de siguranță, Regulamentul privind mașinile cere deja, prin Anexa III punctul 1.2.1, controale specifice pentru comportamentul autoevolutiv, iar acestea se demonstrează în dosarul tehnic (Anexa IV, partea A). Evaluarea de către un organism notificat este obligatorie pentru componentele de siguranță și pentru sistemele cu învățare automată autoevolutivă din Anexa I, partea A, punctele 5 și 6. Regulamentul se aplică de la 20 ianuarie 2027, iar cerințele care reflectă AI Act urmează să fie adăugate prin acte subsecvente care se aplică de la data de 2 august 2028. Capitolul III din AI Act nu se aplică direct: potrivit Articolului 2 alineatul (2), se aplică numai Articolul 6 alineatul (1), Articolul 60a și Articolele 102–112.
  • Ce cere clientul: Integratorul îți poate cere declarația UE de conformitate, dosarul tehnic relevant și, acolo unde procedura o prevede, certificatul de examinare UE de tip emis de organismul notificat. Marcajul CE pe utilajul final îl aplică producătorul acestuia.

Ruta 2: Producător de subansambluri, piese sau componente

  • Status legal: Dacă livrezi componente pur mecanice sau piese care nu integrează sisteme AI, de regulă livrarea ta nu te face furnizor sau implementator de sistem AI (statutul se poate schimba dacă dezvolți sau modifici substanțial un sistem digital în proces). Calitatea de implementator depinde de folosirea unui sistem AI sub autoritatea ta, nu de ceea ce livrezi. Dacă piesa ta conține un modul AI sau alimentează un sistem AI al clientului, vezi partea întâi (Articolul 25 alineatul (4)).
  • Ce cere legea: În producție, AI-ul poate însemna, de exemplu, inspecția vizuală a pieselor, mentenanța predictivă, planificarea producției sau asistenții de programare PLC. Dacă folosești aplicații de birou sau analiză internă, obligația principală din AI Act este alfabetizarea în domeniul AI (Articolul 4). Articolul 50 se aplică în alte situații, de exemplu text publicat pentru informarea publicului în chestiuni de interes public sau deepfake-uri. Rămân aplicabile interdicțiile din Articolul 5, GDPR dacă prelucrezi date personale și obligațiile contractuale.
  • Ce cere clientul: Cererea clientului nu derivă, de regulă, din AI Act pentru un furnizor de componente fără AI. Ea reprezintă o cerință contractuală și comercială, determinată de răspunderea clientului pentru produsul final și de legislația sa sectorială (de exemplu Regulamentul privind mașinile). Îți poate cere garanții privind confidențialitatea datelor tale și interzicerea folosirii lor la antrenarea modelelor; documente publice de achiziție ale unor producători europeni conțin deja clauze de acest tip, ca și cerințe de transparență privind AI din produsele livrate. În opinia noastră, merită să poți arăta și un punct de validare umană pentru procesele automatizate.

Ruta 3: Producător de dispozitive medicale sau de software cu scop medical (Secțiunea A)

  • Status legal: Dacă produsul tău este software cu scop medical declarat (dispozitiv medical conform Articolului 2 alineatul (1) din MDR), te afli în Secțiunea A (punctul 11 din Anexa I; punctul 12 pentru dispozitivele pentru diagnostic in vitro), sub Regulamentul privind dispozitivele medicale (UE) 2017/745 (MDR).
  • Ce cere legea: Cerințele din Capitolul III din AI Act se vor aplica de la 2 august 2028, dacă sistemul este cu risc ridicat, adică produsul este supus evaluării de către o terță parte (Articolul 6 alineatul (1)); de exemplu, un software din clasa I, evaluat fără organism notificat, nu este cu risc ridicat. Evaluarea lor va face parte din procedura MDR (Articolul 43 alineatul (3)), prin organismul notificat dacă acesta a fost desemnat și pentru AI Act (cererea de desemnare se depune până la 28 ianuarie 2028). Ca furnizor de sistem cu risc ridicat vei avea nevoie de un sistem de management al calității, pentru care standardul armonizat EN 18286:2026 oferă prezumție de conformitate pentru cerințele din Articolul 17 pe care le acoperă. Sistemul trebuie să acopere și cerințele MDR (Articolul 10 alineatul (9)), iar Articolul 17 alineatul (3) permite integrarea lor. Ai nevoie și de Documentația Tehnică din Anexa IV.
  • Ce cere clientul (spital sau rețea clinică): Spitalul, în rol de implementator, va trebui să-și dovedească propriile obligații: supraveghere umană încredințată unor persoane competente (Articolul 26 alineatul (2)) și păstrarea fișierelor de jurnalizare cel puțin șase luni (Articolul 26 alineatul (6)). De la tine, ca furnizor, va cere ca sistemul să permită jurnalizarea (Articolul 12) și supravegherea umană (Articolul 14), împreună cu instrucțiunile de utilizare. Aceste obligații se aplică de la 2 august 2028. Evidența instruirii personalului medical este o bună practică, nu o cerință din Articolul 4.

Exemplu: cum răspunzi la un chestionar de evaluare a furnizorului

Pentru a înțelege cum arată transpunerea practică, iată un exemplu ilustrativ de întrebări dintr-un chestionar de calificare tehnică, construit de MAAS (nu un chestionar real), alături de un răspuns posibil și documentul doveditor pe care îl poți atașa.

Întrebarea 1 (Securitatea datelor și proprietate intelectuală)

„Utilizează compania dumneavoastră modele de inteligență artificială generativă sau soluții SaaS externe în procesele de proiectare, programare PLC sau analiză a comenzilor? Dacă da, ce garanții există că datele noastre tehnice nu sunt utilizate pentru antrenarea modelelor terțe?”

  • Răspunsul operațional: „Compania utilizează soluția comercială [Nume Software] conectată prin API enterprise. Conform clauzei contractuale privind datele (acord de confidențialitate și, dacă se prelucrează date personale, acord de prelucrare a datelor conform GDPR), modulul operează în mediu izolat, iar furnizorul terț își asumă contractual interdicția de a utiliza datele noastre de proces pentru re-antrenarea modelelor publice.”
  • Documentul doveditor: Extrasul din acordul de confidențialitate sau din acordul de prelucrare a datelor (DPA, pentru date personale) semnat cu furnizorul de software (anexa privind confidențialitatea și securitatea API).

Întrebarea 2 (Supraveghere umană și control operațional)

„Sistemele automate de inspecție vizuală sau de detectare a defectelor folosite pe linia de producție a pieselor noastre iau decizii autonome de respingere a loturilor fără intervenție umană?”

  • Răspunsul operațional: „Sistemul de viziune automatizat funcționează exclusiv ca unealtă de triaj primar (suport decizional). Orice decizie de respingere a unui lot de producție este supusă validării de către un inginer de calitate autorizat, care are capacitatea tehnică de a suprascrie decizia algoritmului.”
  • Documentul doveditor: Procedura operațională standard (POS) privind controlul calității, care definește rolul operatorului uman ca punct de aprobare finală (human-in-the-loop).
  • Notă: Nu există o cerință legală generală de validare umană pentru inspecția calității. Sistemele folosite exclusiv pentru controlul calității nu sunt componente de siguranță (Articolul 6 alineatul (1a)), cu excepția cazului în care defectarea lor ar pune în pericol sănătatea și siguranța (alineatul (1b)). Procedura operațională standard este o bună practică.

Întrebarea 3 (Registru de evidență și instruire)

„Dețineți o evidență a aplicațiilor software bazate pe AI utilizate în organizație și un plan de instruire al personalului care le operează?”

  • Răspunsul operațional: „Compania menține un registru intern al uneltelor digitale active, clasificând fiecare aplicație după rol și nivel de risc. Personalul care operează aceste sisteme a parcurs sesiuni de instruire privind utilizarea sigură și limitele tehnologiei, conform cerințelor de alfabetizare din Articolul 4 din Regulamentul (UE) 2024/1689.”
  • Documentul doveditor: Registrul intern al uneltelor software (tabel de inventar cu aplicații, furnizori și utilizatori autorizați) și procesul-verbal de instruire a angajaților.
  • Notă: Registrul aplicațiilor AI și evidența instruirii sunt bune practici, nu cerințe ale Articolului 4.

Ce diferențiază o companie pregătită

În opinia noastră, pregătirea comercială în fața clienților mari nu presupune obținerea unor certificări pentru aplicații uzuale, ci mai ales capacitatea de a demonstra că ai control pe procese.

← Toate edițiile seriei  ·  Înapoi la Blog