Ar trebui să încetăm să antrenăm AI avansate?

La fel deinteligență artificială (AI)continuă să avanseze, unele figuri cheie din domeniu cer acum suspendarea antrenamentului AI din cauza riscului pe care îl prezintă pentru umanitate. CEO-ul Twitter, Elon Musk, co-fondatorul Apple, Steve Wozniak, și unii cercetători de la DeepMind au semnat o scrisoare deschisă de la Future of Life Institute prin care solicită suspendarea temporară a dezvoltării AI peste o anumită capacitate, avertizând asupra potențialelor riscuri prezentate de sistemele mai avansate. . Scrisoarea susține că în ultimele luni laboratoarele de inteligență artificială au fost blocate într-o cursă scăpată de control pentru a dezvolta minți digitale mai puternice, pe care nici măcar creatorii lor nu le pot înțelege, prezice sau controla.

Institutul Viitorul Vieții este o organizație non-profit care își propune să orienteze tehnologiile transformatoare departe de riscurile extreme, la scară largă și spre a beneficia de viață. În scrisoarea lor deschisă, organizația afirmă că sistemele AI cu inteligență umană-competitivă prezintă riscuri profunde pentru societate și umanitate. Scrisoarea avertizează că astfel de sisteme ar putea inunda canalele de informare cu dezinformare și ar putea înlocui locurile de muncă cu automatizări. AI-urile avansate trebuie dezvoltate cu grijă, dar, în schimb, în ​​ultimele luni s-au văzut laboratoarele care se întrec pentru a implementa sisteme din ce în ce mai puternice.

Banca de investiții Goldman Sachs a lansat recent un raport care afirmă că, deși AI va crește probabil productivitatea, milioane de locuri de muncă ar putea deveni automatizate. Cu toate acestea, alți experți susțin că efectul AI asupra pieței muncii este greu de prezis. În scrisoare, Institutul Viitorul Vieții întreabă: „Ar trebui să dezvoltăm minți non-umane care ar putea în cele din urmă să depășească numeric, să depășească deșteptul, să depășească [sic] și să ne înlocuiască?” Profesorul Stuart Russell de la Universitatea din California, Berkeley, și semnatar al scrisorii, a declarat pentru BBC News că sistemele de inteligență artificială prezintă riscuri semnificative pentru democrație prin dezinformarea cu arme, pentru angajare prin înlocuirea abilităților umane și educație prin plagiat și demotivare.

Scrisoarea avertizează, de asemenea, despre potențiala amenințare viitoare la adresa controlului uman asupra civilizației noastre din partea IA avansate, dar profesorul de informatică la Princeton, Arvind Narayanan, a criticat scrisoarea pentru că a ignorat versiunea problemei care dăunează deja oamenilor. El a acuzat scrisoarea că se concentrează pe „riscul speculativ, futurist”. OpenAI, compania din spatele ChatGPT, a lansat recent GPT-4 – o tehnologie de ultimă oră care a impresionat observatorii prin capacitatea sa de a îndeplini sarcini precum răspunsul la întrebări despre obiectele din imagini.OpenAInu a comentat public scrisoarea.

Având în vedere potențialele riscuri asociate cu progresul rapid al inteligenței artificiale, experții cer mai multă prudență în dezvoltarea inteligenței artificiale. În special, ei îndeamnă laboratoarele să întrerupă imediat timp de cel puțin șase luni pregătirea sistemelor AI mai puternice decât GPT-4. În timp ce inteligența artificială are potențialul de a transforma societatea, experții susțin că o astfel de transformare nu ar trebui să vină cu prețul siguranței și controlului uman.

Pe termen lung, luarea unor măsuri de precauție sensibile este un preț mic de plătit pentru a atenua riscurile prezentate de IA avansate. Cu toate acestea, experții mai susțin că riscurile sunt greu de anticipat și că trebuie să procedăm cu prudență pentru a evita consecințele nedorite. Institutul Future of Life îi îndeamnă pe dezvoltatorii AI să ia în considerare potențialele implicații viitoare ale muncii lor și să se asigure că IA avansate sunt dezvoltate cu grijă.

În general, apelul de a suspenda instruirea AI peste o anumită capacitate reflectă îngrijorarea tot mai mare cu privire la riscurile prezentate de AI avansate. Deși încă nu știm multe despre implicațiile pe termen lung ale inteligenței artificiale, experții îndeamnă la prudență pentru a evita potențialele daune aduse societății și umanității. Ritmul rapid al dezvoltării inteligenței artificiale din ultimii ani a făcut pe mulți experți îngrijorați de faptul că tehnologia poate scăpa de sub control și că riscăm să creăm sisteme pe care nu le putem înțelege sau controla. Ca atare, apelul de a întrerupe dezvoltarea AI este un pas necesar pentru a ne asigura că putem valorifica potențialul AI în siguranță și în mod responsabil.