Asistăm în ultimul timp la o dezbatere din ce în ce mai intensă despre folosirea IA și potențialele pericole la care poate fi expusă umanitatea ca urmare a extinderii acesteia. Vedem proiectate scenarii mai mult sau mai puțin plauzibile despre pierderea locurilor de muncă, creșterea inegalității între săraci și bogați ori despre războaie apocaliptice între oameni și roboți. Măsurile propuse încep de la reglementarea acesteia până la interzicerea sa, ceea ce ne face să ne amintim de războiul din seria Dune, de Frank Herbert, în urma căruia toate mașinile care gândeau (thinking machines) au fost distruse. Bineînțeles că nu putem să nu amintim și de celebra serie Matrix în care omenirea întreagă era conectată fizic la matrice, iar oamenii își trăiau viața visând, de fapt, lumi paralele. Într-o discuție recentă cu Lena și Thordur (speakeri, care vor fi prezenți la IT Days) povesteam despre trendul curent de revenire la birou, dar cu mențiunea că modul de lucru s-ar putea schimba fundamental. În loc de open space, vom avea spații mici în care va intra doar o singură persoană care va rezolva un nou task conectată, desigur, la IA prin voce. Proiecții și ipoteze ca acestea, justificate de progresul impresionant realizat în ultimele șase luni de IA, merită să fie luate în considerare. Oricum, realitatea le va confirma sau infirma. Contrar părerilor alarmiste, consider că, la fel ca orice revoluție, IA va veni cu reglementările necesare, dar și cu o creștere a calității modului în care trăim și în care construim lucruri. Vor apărea probabil limitări, va trebui să știm să punem noi înșine limite folosirii acesteia. La final, cred că este un prag necesar peste care va trebui să trecem. Tot în această direcție, dar de data aceasta mai tehnică, vom avea o dezbatere pe aceeași temă la IT Days 2026: #DevelopersRecompiled.
Ediția de față vă propune o serie de articole despre securitate în contextul IA-ului, dar și referitoare la poziția noastră ca oameni în contextul IA. Articolul Evoluția echipelor și managementul atenției vă invită să ne revizuim starea de flow într-o zi în care suntem asaltați de notificări și să ne analizăm modul cum ne putem îmbunătăți disponibilitatea cognitivă. În articolul Nu mai puneți oamenii în buclă atrage atenția asupra importanței factorului uman într-un context în care IA preia din ce în ce mai mult din execuție. Un alt articol, Dezvoltarea competențelor în IA la scară largă, vă prezintă câteva detalii referitoare la un program de învățare despre IA. Continuăm cu câteva articole din aria de securitate. De exemplu, în Agentul tău AI are încredere oarbă. Iată cum profită cineva de asta veți vedea de ce a avea grijă acum despre prompt injection este un demers foarte util. Supravegherea AI și Securitatea Cibernetică, vă invită să analizăm ultimele incidente cauzate de agenții IA. Spre final, vă propunem să citiți și articolul Autonomie fără autoritate: securitatea unui harness AI în data engineering, care aduce în prim-plan datele la care are acces un sistem automat de IA și erorile care se pot produce.
Vă dorim o lectură plăcută!
Human-in-the-loop: Keeping people at the center of AI
Miercuri, 23 septembrie, ora 18:00
Betfair Romania Development
Facebook Meetup StreamEvent YouTubede Dan Boncuț
de Ovidiu Mățan
de Ovidiu Mățan
de Tibor Boné
