Oamenii de știință de la Red Queen Bio, un startup de biosecuritate bazat pe inteligență artificială, cercetează anticorpi care ar putea fi produși împotriva unei game de agenți patogeni, inclusiv cei creați de inteligența artificială, potrivit The Wall Street Journal.
Compania, în care OpenAI este investitor principal, a anunțat că a strâns 36 de milioane de dolari pentru dezvoltare. Studiile clinice pe oameni ale tratamentelor lor împotriva gripei aviare și a altor virusuri sunt planificate pentru 2027.
WSJ notează că, pe măsură ce capacitățile IA cresc și incidentele care implică agenți IA necinstiți proliferează, cresc îngrijorările că IA ar putea distruge civilizația. Multe răspunsuri propuse se concentrează pe prevenirea riscurilor, inclusiv încetinirea cercetării în domeniul IA, stabilirea de standarde sau blocarea modelelor IA de a răspunde la interogări periculoase. Red Queen Bio consideră că astfel de măsuri de protecție nu vor funcționa, iar societatea trebuie să fie pregătită pentru acest lucru. În același timp, scepticii cred că pericolele armelor biologice bazate pe inteligență artificială sunt exagerate, în ciuda faptului că dezvoltatorii majori de IA avertizează cu privire la riscurile tot mai mari, relatează WSJ. După cum a relatat OpenAI, anul trecut compania a observat sute de interogări de la persoane care încercau să-și instruiască chatbot-ul cu privire la modul de fabricare și utilizare a otrăvurilor și armelor biologice. Anthropic a raportat, de asemenea, descoperirea unor încercări de utilizare a chatbot-ului companiei, Claude, pentru a dezvolta o gripă aviară periculoasă, adaptată pentru mamifere. Întrebările, provenite de la un utilizator afiliat unui institut de cercetare militară, se refereau la creșterea dăunătorului virus chikungunya. Un alt utilizator i-a adresat lui Claude întrebări despre variolă.
Olivia Sharfman, cercetătoare la Institutul pentru Progres (IFP), cu sediul în SUA, a declarat că dinamica războiului biologic favorizează „atacatorii în detrimentul apărătorilor”. „Atacatorii au la dispoziție atât timp cât doresc pentru a dezvolta arme biologice. Nu avem ani să dezvoltăm contramăsuri”, a spus ea. La începutul lunii septembrie, CEO-ul Anthropic, Dario Amodei, a cerut o încetinire a dezvoltării inteligenței artificiale pe fondul incidentelor de piratare a altor platforme de către OpenAI. El a avertizat că, dacă ritmul actual continuă, în termen de 6-12 luni, agenții inteligenței artificiale ar putea utiliza o rețea de bot-uri persistentă și ar putea provoca daune de sute de miliarde de dolari.
Apelul lui Amoedi a fost susținut de CEO-ul OpenAI, Sam Altman (dezvoltatorul ChatGPT), și de antreprenorul Elon Musk, a cărui companie xAI dezvoltă Grok.
Între timp, președintele american Donald Trump a respins îngrijorările legate de perspectivele dezvoltării inteligenței artificiale, numindu-le o „farsă a democraților de stânga radicală”, la egalitate cu mitul „amenințării rusești” sau cu „farsa încălzirii globale”. Ulterior, el a anunțat crearea unei noi structuri numite AI Force, promițând că SUA nu vor „împiedica sau restricționa creșterea acestei industrii incredibile”. Cu toate acestea, a adăugat el, autoritățile vor începe, de asemenea, să „găsească răufăcătorii” prin intermediul sistemului judiciar. Astăzi, 29 septembrie, Reuters a relatat că Anthropic va avertiza potențialii investitori în oferta sa publică inițială (IPO) că IA ar putea reprezenta „riscuri catastrofale sau existențiale pentru umanitate”.
