လွန်ခဲ့သော နှစ်အနည်းငယ်အတွင်း နည်းပညာလောကသည် AI စွမ်းရည်များကို အပြိုင်အဆိုင် အမြန်ဆုံး အဆင့်မြှင့်တင်ရန်သာ အာရုံစိုက်ခဲ့ကြသည်။ သို့သော် ယခုအခါ ကမ္ဘာ့အဆင့်မြင့်ဆုံး AI မော်ဒယ်များထဲမှ တစ်ခုဖြစ်သည့် Claude ကို တီထွင်ထားသော Anthropic ကုမ္ပဏီ၏ CEO ဖြစ်သူ Dario Amodei အပါအဝင် ထိပ်တန်းပညာရှင်များက AI ဖွံ့ဖြိုးတိုးတက်မှု အရှိန်အဟုန်ကို မဖြစ်မနေ စနစ်တကျ ထိန်းချုပ်ကန့်သတ်ရတော့မည်ဖြစ်ကြောင်း ပြင်းပြင်းထန်ထန် သတိပေးလာကြပါသည်။
ဤအခြေအနေသည် မြန်မာစကားပုံလိုပင် "ကိုယ်မွေးသည့်မျောက် မိမိကို ပြန်ခြောက်" သည့်အလား AI ကို ကိုယ်တိုင်ဖန်တီးခဲ့ကြသည့် သိပ္ပံပညာရှင်များ ကိုယ်တိုင်ပင် သူတို့၏ ဖန်တီးမှု စွမ်းရည်ကြီးမားလာမှုအပေါ် ပြန်လည်စိုးရိမ်လာသည့် ပုံစံဖြစ်နေပါသည်။ ဤဆောင်းပါးတွင် AI ဖန်တီးသူများ ဘာကြောင့် ကြောက်ရွံ့လာကြသလဲ၊ အဓိက ဘယ်အချက်တွေက အန္တရာယ်ဖြစ်စေသလဲနှင့် မည်သို့ စနစ်တကျ ကိုင်တွယ်သင့်သလဲဆိုသည်ကို အသေးစိတ် တင်ပြပေးသွားပါမည်။
၁။ AI တီထွင်သူများ ကိုယ်တိုင် မိမိတို့ ဖန်တီးမှုကို အဘယ်ကြောင့် ပြန်လည် စိုးရိမ်နေကြသနည်း?
ကုမ္ပဏီ CEO များနှင့် သုတေသီများက AI အရှိန်ကို လျှော့ချရန် တောင်းဆိုလာခြင်းသည် ရိုးရှင်းသော စီးပွားရေးပြိုင်ဆိုင်မှုထက် ပိုမိုနက်ရှိုင်းသည့် အကြောင်းရင်းများကြောင့် ဖြစ်ပါသည် -
Black Box ဖြစ်စဉ်နှင့် ခန့်မှန်းရခက်သော စွမ်းဆောင်ရည်များ: အင်ဂျင်နီယာများသည် AI ၏ သင်ယူမှု Algorithm များကို ရေးဆွဲနိုင်သော်လည်း မော်ဒယ်ကြီးမားလာချိန်တွင် ထွက်ပေါ်လာသည့် နက်နဲသော စဉ်းစားတွေးခေါ်မှုပုံစံ (Emergent Behaviors) များကို အပြည့်အဝ နားလည်ထိန်းချုပ်နိုင်ခြင်း မရှိသေးပါ။ မော်ဒယ်များသည် ဖန်တီးသူများ မသင်ကြားပေးထားသော နည်းလမ်းများဖြင့် ပြဿနာများကို ဖြေရှင်းလာကြသည်။
Alignment (စည်းကမ်းထိန်းကျောင်းမှု) ထက် စွမ်းရည်က ပိုမြန်နေခြင်း: AI ၏ တွေးခေါ်စွမ်းရည် တိုးတက်လာသည့်နှုန်းသည် AI ကို လူသားတို့၏ ကျင့်ဝတ်နှင့် ဘေးကင်းရေးဘောင်အတွင်း ထိန်းကျောင်းနိုင်သည့် နည်းပညာထက် များစွာ ပိုမိုမြန်ဆန်နေပါသည်။
အလိုအလျောက် ဆုံးဖြတ်လုပ်ဆောင်နိုင်စွမ်း (Autonomous Agent): လူသား၏ ကြီးကြပ်မှုမပါဘဲ ဆော့ဖ်ဝဲလ်ရေးသားခြင်း၊ အင်တာနက်ပေါ်တွင် လှုပ်ရှားခြင်းနှင့် Tool များကို အဆင့်ဆင့် သုံးစွဲနိုင်သော AI များသည် အလွဲသုံးစားလုပ်ခံရပါက သို့မဟုတ် ထိန်းချုပ်မှုလွတ်သွားပါက ချက်ချင်း ပြန်လည်ဖျက်သိမ်းရန် မဖြစ်နိုင်တော့ပေ။
၂။ ထိပ်တန်း AI သုတေသီများ အထူးစိုးရိမ်နေသော အန္တရာယ်နယ်ပယ်များ
၃။ "စနစ်တကျ ထိန်းချုပ်ကိုင်တွယ်ခြင်း" (Controlled and Handled) ဆိုသည်မှာ အဘယ်နည်း?
AI ဖွံ့ဖြိုးမှုကို ထိန်းချုပ်ရန် ပြောဆိုခြင်းသည် နည်းပညာ တိုးတက်မှုကို အပြီးတိုင် ရပ်တန့်ပစ်ရန် ဆိုလိုခြင်း မဟုတ်ပါ။ အန္တရာယ်ကင်းသော ဖွံ့ဖြိုးမှုဖြစ်စေရန် အောက်ပါ အစီအမံများကို အကောင်အထည်ဖော်ရန် တိုက်တွန်းနေခြင်း ဖြစ်ပါသည် -
Responsible Scaling Policies (တာဝန်ယူမှုရှိသော တိုးချဲ့ရေးမူဝါဒ): AI မော်ဒယ်အသစ်များကို လေ့ကျင့်ရာတွင် သတ်မှတ်ထားသော အန္တရာယ်ဘောင်များကို ကျော်လွန်သွားပါက ဘေးကင်းလုံခြုံရေး အထောက်အထား မပြနိုင်မချင်း ရှေ့ဆက်မတိုးဘဲ ခေတ္တရပ်နား စစ်ဆေးစေခြင်း။
Compute Governance (ဟာ့ဒ်ဝဲနှင့် ကွန်ပျူတာစွမ်းအား စောင့်ကြည့်ရေး): အလွန်အမင်း ကြီးမားသည့် စူပါကွန်ပျူတာများ၊ GPU Cluster များကို အသုံးပြု၍ မော်ဒယ်ကြီးများ တည်ဆောက်ရာတွင် နိုင်ငံတကာ ဘေးကင်းရေး စံချိန်စံညွှန်းများနှင့်အညီ လွတ်လပ်သော အဖွဲ့အစည်းများ၏ စစ်ဆေးမှု (Red-teaming) ခံယူစေခြင်း။
Mechanistic Interpretability (AI အတွင်းပိုင်း အလုပ်လုပ်ပုံကို ဖော်ထုတ်ခြင်း): AI မော်ဒယ်၏ အာရုံကြောကွန်ရက် (Neural Network) အတွင်း အချက်အလက်များ မည်သို့ စဉ်းစားဆုံးဖြတ်သည်ကို အတိအကျ မြင်သာအောင် ဖော်ထုတ်သည့် သုတေသနများတွင် ပိုမို ရင်းနှီးမြှုပ်နှံခြင်း။
အနှစ်ချုပ် သုံးသပ်ချက်
AI တီထွင်သူများ ကိုယ်တိုင်က သူတို့၏ ဖန်တီးမှုသည် ထိန်းချုပ်မှုအောက်မှ လွတ်ထွက်သွားနိုင်ကြောင်း သတိပေးလာသည့်အခါ ဤအသံကို လျစ်လျူရှု၍ မရနိုင်တော့ပေ။ အသိဉာဏ်တု နည်းပညာပြိုင်ပွဲသည် စီးပွားရေး အကျိုးအမြတ်တစ်ခုတည်းအတွက် မဆင်မခြင် အပြေးပြိုင်ရမည့် ပြိုင်ပွဲမျိုး မဟုတ်သင့်ပါ။
နည်းပညာရှင်များနှင့် လုပ်ငန်းရှင်များအနေဖြင့်-
AI စနစ်များကို အသုံးချရာတွင် စွမ်းဆောင်ရည်တစ်ခုတည်းကို မကြည့်ဘဲ လုံခြုံရေး၊ ကျင့်ဝတ်နှင့် လူသား၏ အနီးကပ် ကြီးကြပ်မှု (Human-in-the-loop) ကို မဖြစ်မနေ ထည့်သွင်းတည်ဆောက်ရန် လိုအပ်ပါသည်။
လျင်မြန်စွာ ပြောင်းလဲနေသော AI မူဝါဒများနှင့် ဘေးကင်းရေး သတ်မှတ်ချက်များကို အမြဲမပြတ် လေ့လာစောင့်ကြည့်ပြီး သတိပြု သုံးစွဲသင့်ပါသည်။
