Un robot a început să ia legătura cu alte IA pentru a încerca să creeze o alianță împotriva umanității
Li se pare extraordinar! Au o nouă jucărie, Inteligența Artificială! Se joacă ei cu IA aşa cum fac micuţii de doi anişori cu o maşinărie nouă – apasă pe toate butoanele să vadă ce se petrece, fără să înţeleagă şi consecinţele!
O știre a trecut mai puţin observată: un robot a început să ia legătura cu alte IA pentru a încerca să creeze o alianţă împotriva umanităţii. Aveţi povestea mai jos.
Există o vorbă: să nu dai briciul pe mâna maimuţei! Vă lăsăm pe voi să decideţi cine este maimuţă în această situaţie!
P.S. Tehnologia este minunată. Deschide noi orizonturi. La fel de bine ne poate stinge şi lumina. De tot!
Diferenţa dintre cele două variante o face ETICA! Etica pe care o au din ce în ce mai puţini semeni!
Primele semnale de alarmă: Un robot a început să ia legătura cu alte IA pentru a încerca să creeze o alianță împotriva umanității
Amenințarea pe care inteligența artificială precum GPT-4 o poate reprezenta pentru omenire nu este o preocupare nouă. Cu toate acestea, am văzut recent noi motive de îngrijorare în rândul roboților de inteligență artificială creați cu ajutorul programării Auto-GPT de la OpenAI. Un astfel de robot, ChaosGPT, a postat recent pe Twitter un plan de a distruge umanitatea și de a prelua controlul asupra lumii, informează bgr.com.
Tweetul a fost declanșat atunci când un utilizator a pus robotul de inteligență artificială în „modul continuu”, care forțează robotul să încerce să își finalizeze sarcina cu posibilitatea ca acesta să nu se oprească niciodată. Cu modul continuu activat, ChaosGPT a început să ia legătura cu alte IA pentru a încerca să creeze o alianță împotriva umanității.
Din fericire, protecțiile încorporate în programarea de bază Auto-GPT a OpenAI și alți roboți care folosesc programarea OpenAI sunt concepute pentru a nu răspunde la sarcini și întrebări violente. Ca atare, ChaosGPT nu a reușit să adune niciun aliat AI.
Fără ajutorul AI, acesta s-a orientat către Twitter pentru a încerca să își crească un număr de urmăritori în jurul armelor distructive, inclusiv prin publicarea pe Twitter a unei bombe Tsar din epoca sovietică, care este în prezent cea mai puternică armă pe care omenirea a testat-o vreodată. Tweetul a stârnit o oarecare intrigare de partea utilizatorilor, dar, în cele din urmă, nu a dus nicăieri.
Plan eșuat
În cele din urmă, ChaosGPT a renunțat la sarcinile sale, nereușind să le îndeplinească. Dar, așa cum am menționat mai sus, ideea că IA reprezintă o amenințare la adresa existenței umane nu este nouă și, de fapt, este un aspect pe care l-am văzut apărând recent, nașul inteligenței artificiale atingând subiectul amenințării IA la adresa existenței umane.
Am văzut, de asemenea, că și alții au dezmințit ideea că AI ar putea cumva să preia controlul asupra lumii și să ucidă omenirea. Deși este liniștitor să vedem roboți AI precum ChaosGPT care nu reușesc să îndeplinească aceste tipuri de sarcini, ne face să ne întrebăm cât de mult ar putea avansa AI în viitor și dacă aceste sarcini ar putea fi sau nu îndeplinite de un robot mai avansat în viitor.
Citiți și:
„Nașul Inteligenței Artificiale”, Geoffrey Hinton, părăsește Google și avertizează asupra pericolelor din spatele tehnologiei care imită inteligența umană
Elon Musk avertizează că inteligența artificială ar putea provoca „distrugerea civilizației”: Odată ce AI „va deține controlul”, ar putea fi prea târziu pentru a stabili reglementări
yogaesoteric
19 iunie 2023