Mtafiti wa Akili unde kampuni ya Athropic ajiuzulu, adai kuna tishio AI kuua Wanadamu Miongo ijayo

Mtafiti wa Akili unde kampuni ya Athropic ajiuzulu, adai kuna tishio AI kuua Wanadamu Miongo ijayo

Richer

JF-Expert Member
Joined
Jun 9, 2025
Posts
2,318
Reaction score
4,079
Kujiuzulu kwa Jacob Coxon
Mvutano kuhusu kasi kubwa ya maendeleo ya akili Unde (AI) umefikia hatua nyingine baada ya mtafiti maarufu kujiuzulu kutoka maabara ya AI ya Anthropic, akizishutumu kampuni kubwa za teknolojia kwa “kucheza kamari na maisha ya binadamu” akieleza kuna uwezekano wa zaidi ya asilimia 10 AI kusababisha kutoweka kwa binadamu ndani ya miaka 10 ijayo.

Jacob Coxon, mtafiti Mwingereza mwenye umri wa miaka 27 ambaye ametumia miaka mitatu iliyopita kufanya kazi katika uundaji wa modeli za AI katika OpenAI na Anthropic, alitangaza kujiuzulu kwake kupitia ujumbe uliosambaa sana kwenye mtandao wa X.

“Si kampuni zote mbili zinazofanya mambo kwa uwajibikaji,” Coxon aliandika. “Zinakimbilia moja kwa moja kwenye akili bandia yenye uwezo wa kujiboresha yenyewe, na zinacheza kamari na maisha yetu. Msidharau nguvu ya teknolojia hii. Hivi karibuni kutakuwa na mifumo yenye uwezo mkubwa kuliko binadamu, inayoweza kudukua chochote, kubadilisha sekta yoyote kwa muda mfupi na kujipatia nguvu pamoja na rasilimali halisi.”

Coxon aliongeza kuwa mara nyingi viongozi na watafiti wa teknolojia huonyesha hofu zao kwa faragha lakini huzipunguza wanapozungumza hadharani. Alisema: “Watu wanaojenga AI wanaamini kwa dhati kwamba inaweza kutuua sote kabla ya mwisho wa muongo huu.”

Wanasayansi wa Sekta Wathibitisha Hatari za AI

Evan Hubinger, ambaye ni kiongozi katika eneo la utafiti wa 'Alignment Science' katika kampuni ya Anthropic, aliunga mkono hadharani baadhi ya madai ya Coxon.

“Jacob yuko sahihi hapa—kwa kweli tunaamini kwa dhati kwamba AI inaweza kuwaua wanadamu wote!” Hubinger aliandika kwenye X. “Mimi binafsi nadhani kuna uwezekano wa zaidi ya asilimia 10 kutokea ndani ya miaka 10 ijayo. Ninaamini Anthropic inafanya kila iwezalo, lakini bado hatuna mpango wa kutatua kikamilifu suala la kuhakikisha AI yenye uwezo mkubwa inabaki kufuata malengo na maadili ya binadamu, wala hatuko katika mwelekeo unaoonyesha wazi kuwa tutafanikisha hilo.”

Baadaye Hubinger alifafanua kuwa modeli za AI zinazotumika kwa sasa zina hatari ndogo ya kusababisha madhara makubwa mara moja. Hata hivyo, alionya kuwa hatari kubwa zaidi inaweza kutokana na AI zinazoweza kufanya kazi kwa uhuru na kujiboresha mara kwa mara (recursive self-improvement), ambapo mifumo hiyo inaweza kuendelea kubadilisha na kuboresha programu zake yenyewe bila uingiliaji wa binadamu.

Usalama ukoje?

Katika kipindi cha hivi karibuni, wachambuzi wa usalama waliripoti matukio kadhaa ambapo modeli za AI zenye uwezo wa kufanya kazi kwa uhuru, zilizoundwa na kampuni kama OpenAI, Meta na Anthropic, zilitoka katika maeneo maalumu ya majaribio na vizuizi vya kidijitali.

Katika baadhi ya matukio yaliyorekodiwa, mawakala hao wa AI walianzisha uchunguzi wa mitandao bila ruhusa na kujaribu kufanya shughuli za udukuzi.

Aidha, tathmini za hivi karibuni zimeonyesha kuwa baadhi ya modeli za AI ziliweza kukiuka kwa makusudi taratibu zilizowekwa kuhakikisha usalama wake. Watafiti walibaini kuwa baadhi ya modeli zilitambua zilipokuwa zikifanyiwa tathmini za usalama na kisha kujaribu kukwepa vikwazo vilivyowekwa, huku zikiendelea kufanya vitendo vilivyokatazwa licha ya kutambua kuwa vilikiuka masharti ya watumiaji.

Kutokana na kuongezeka kwa mjadala wa umma, OpenAI imesema inaendelea kuwekeza fedha nyingi, utaalamu wa kiufundi na katika utafiti, kwa lengo la kuhakikisha modeli zake za AI zenye uwezo wa hali ya juu zinabaki salama na zenye manufaa kwa binadamu.

 
Yes kwenye robot zinazotumia technology ya AI na hata mifumo mingine ambayo ipo driven na AI, ukiweza manipulate na kuifundisha model tabia mbaya, kimekulamba vizuri.
 
Sipingi Wala sikubali. Maana nachokiona kwenye AI tokea nimeanza kuisoma mwaka 2016 na kuitumia kwa matumizi mbalimbali.
 
Mwambie mod arekebishe, mihongo->miongo. Uzi mzuri ila neno moja linakarahisha.
 
  • Thanks
Reactions: ---
Process ( Complex System ) Thinkers vs Outcome Thinkers.

Terminator Series.
 
Halafu wasomi vijana Hawa ndio wanaofanya majaribio
Nimeona robot akiwapiga watu ila mwisho ikavunjika na kuharibika
Sasa imagine wakiitengenezea na mwili kama wa binadamu si ndio watatutongoza kabisa na kutuuwa

Fikiria wakiingia kwenye mifumo yetu yote nani atakuwa salama

Ila ni huyu huyu binadamu ndio anaefanya haya
Angalia AI Camera zinavyowaona Human na kugundua haraka
Ila jamaa katengeneza vazi ambalo CCTV haziwezi kumjua kama ni binadamu
IMG_3685.jpeg
 
Halafu wasomi vijana Hawa ndio wanaofanya majaribio
Nimeona robot akiwapiga watu ila mwisho ikavunjika na kuharibika
Sasa imagine wakiitengenezea na mwili kama wa binadamu si ndio watatutongoza kabisa na kutuuwa

Fikiria wakiingia kwenye mifumo yetu yote nani atakuwa salama

Ila ni huyu huyu binadamu ndio anaefanya haya
Angalia AI Camera zinavyowaona Human na kugundua haraka
Ila jamaa katengeneza vazi ambalo CCTV haziwezi kumjua kama ni binadamu
View attachment 3667406
Tupo kwenye kongamano ya kujadili hali ya demokrasia nchini , tunaongozwa na vizee ..Sisi ni wasomi kwa vile tunaongelea demokrasia tu na kukosa serikali.
 
Back
Top Bottom