Kujiuzulu kwa Jacob Coxon
Mvutano kuhusu kasi kubwa ya maendeleo ya akili Unde (AI) umefikia hatua nyingine baada ya mtafiti maarufu kujiuzulu kutoka maabara ya AI ya Anthropic, akizishutumu kampuni kubwa za teknolojia kwa “kucheza kamari na maisha ya binadamu” akieleza kuna uwezekano wa zaidi ya asilimia 10 AI kusababisha kutoweka kwa binadamu ndani ya miaka 10 ijayo.
Jacob Coxon, mtafiti Mwingereza mwenye umri wa miaka 27 ambaye ametumia miaka mitatu iliyopita kufanya kazi katika uundaji wa modeli za AI katika OpenAI na Anthropic, alitangaza kujiuzulu kwake kupitia ujumbe uliosambaa sana kwenye mtandao wa X.
“Si kampuni zote mbili zinazofanya mambo kwa uwajibikaji,” Coxon aliandika. “Zinakimbilia moja kwa moja kwenye akili bandia yenye uwezo wa kujiboresha yenyewe, na zinacheza kamari na maisha yetu. Msidharau nguvu ya teknolojia hii. Hivi karibuni kutakuwa na mifumo yenye uwezo mkubwa kuliko binadamu, inayoweza kudukua chochote, kubadilisha sekta yoyote kwa muda mfupi na kujipatia nguvu pamoja na rasilimali halisi.”
Coxon aliongeza kuwa mara nyingi viongozi na watafiti wa teknolojia huonyesha hofu zao kwa faragha lakini huzipunguza wanapozungumza hadharani. Alisema: “Watu wanaojenga AI wanaamini kwa dhati kwamba inaweza kutuua sote kabla ya mwisho wa muongo huu.”
Wanasayansi wa Sekta Wathibitisha Hatari za AI
Evan Hubinger, ambaye ni kiongozi katika eneo la utafiti wa 'Alignment Science' katika kampuni ya Anthropic, aliunga mkono hadharani baadhi ya madai ya Coxon.
“Jacob yuko sahihi hapa—kwa kweli tunaamini kwa dhati kwamba AI inaweza kuwaua wanadamu wote!” Hubinger aliandika kwenye X. “Mimi binafsi nadhani kuna uwezekano wa zaidi ya asilimia 10 kutokea ndani ya miaka 10 ijayo. Ninaamini Anthropic inafanya kila iwezalo, lakini bado hatuna mpango wa kutatua kikamilifu suala la kuhakikisha AI yenye uwezo mkubwa inabaki kufuata malengo na maadili ya binadamu, wala hatuko katika mwelekeo unaoonyesha wazi kuwa tutafanikisha hilo.”
Baadaye Hubinger alifafanua kuwa modeli za AI zinazotumika kwa sasa zina hatari ndogo ya kusababisha madhara makubwa mara moja. Hata hivyo, alionya kuwa hatari kubwa zaidi inaweza kutokana na AI zinazoweza kufanya kazi kwa uhuru na kujiboresha mara kwa mara (recursive self-improvement), ambapo mifumo hiyo inaweza kuendelea kubadilisha na kuboresha programu zake yenyewe bila uingiliaji wa binadamu.
Usalama ukoje?
Katika kipindi cha hivi karibuni, wachambuzi wa usalama waliripoti matukio kadhaa ambapo modeli za AI zenye uwezo wa kufanya kazi kwa uhuru, zilizoundwa na kampuni kama OpenAI, Meta na Anthropic, zilitoka katika maeneo maalumu ya majaribio na vizuizi vya kidijitali.
Katika baadhi ya matukio yaliyorekodiwa, mawakala hao wa AI walianzisha uchunguzi wa mitandao bila ruhusa na kujaribu kufanya shughuli za udukuzi.
Aidha, tathmini za hivi karibuni zimeonyesha kuwa baadhi ya modeli za AI ziliweza kukiuka kwa makusudi taratibu zilizowekwa kuhakikisha usalama wake. Watafiti walibaini kuwa baadhi ya modeli zilitambua zilipokuwa zikifanyiwa tathmini za usalama na kisha kujaribu kukwepa vikwazo vilivyowekwa, huku zikiendelea kufanya vitendo vilivyokatazwa licha ya kutambua kuwa vilikiuka masharti ya watumiaji.
Kutokana na kuongezeka kwa mjadala wa umma, OpenAI imesema inaendelea kuwekeza fedha nyingi, utaalamu wa kiufundi na katika utafiti, kwa lengo la kuhakikisha modeli zake za AI zenye uwezo wa hali ya juu zinabaki salama na zenye manufaa kwa binadamu.