Ko te Kaupapa Hou a OpenAI: Te Arataki i te Hunga Rawa AI ki te Ara Tika

Ko OpenAI, he kaikaro rangatira i roto i te mara o te matauranga hangai, kua kii i te hanganga o tetahi roopu whakatapua ki te whakahaere i nga tupono e pa ana ki te AI superintelligent. Ka tae mai tenei nekehanga i te wa e whakaaro ana nga kawanatanga o te ao me pehea te whakahaere i nga hangarau AI ka puta ake.

Te mohio ki a Superintelligent AI

Ko te Superintelligent AI e tohu ana ki nga tauira AI whakapae e hira ake ana i nga tangata tino mohio me nga tangata mohio i roto i nga waahanga maha o nga tohungatanga, ehara i te rohe kotahi noa iho penei i etahi tauira whakatipuranga o mua. E matapae ana a OpenAI ka puta mai he tauira penei i mua i te mutunga o te tekau tau. E whakapono ana te whakahaere ko te superintelligence pea te hangarau tino whai mana i hangaia e te tangata, tera pea ka awhina i a tatou ki te whakaoti i nga raru nui o te ao. Heoi ano, ko te mana nui o te mohiotanga ka pa he raru nui, tae atu ki te ngoikoretanga o te tangata, o te mate tangata ranei.

Ko te roopu Whakanuia o OpenAI

Hei whakatika i enei awangawanga, kua hangaia e OpenAI he 'hou.Te whakahāngaitanga' te roopu, na te Tumuaki Kaiputaiao OpenAI a Ilya Sutskever raua ko Jan Leike, te tumuaki o te taiwhanga rangahau. Ka whai waahi te roopu ki te 20% o te mana rorohiko kua mauhia e OpenAI i tenei wa. Ko ta raatau whainga ko te whakawhanake i tetahi kairangahau whakangao aunoa, he punaha ka taea te awhina i a OpenAI ki te whakarite kia noho haumaru te superintelligence ki te whakamahi me te hono ki nga uara tangata.

Ahakoa e whakaae ana a OpenAI he tino wawata nui tenei, a, karekau e taurangi te angitu, kei te noho pai te whakahaere. Ko nga whakamatautau tuatahi i whakaatu i te oati, me nga inenga whai hua mo te ahunga whakamua e waatea ana. I tua atu, ka taea te whakamahi i nga tauira o naianei ki te ako i te maha o enei raru.

Te Hiahia mo te Ture

Ko te hanganga o te roopu Superalignment ka puta mai i te wa e whakaaro ana nga kawanatanga huri noa i te ao me pehea te whakahaere i te umanga AI kua tiimata mai. Ko te Tumuaki o OpenAI, a Sam Altman, kua tutaki ki te 100 neke atu i te XNUMX nga kai-ture i nga marama tata nei. Kua kii a Altman he mea nui te ture AI, a ko te OpenAI he "hiahia" ki te mahi tahi me nga kaihanga kaupapa here.

Heoi ano, he mea nui ki te whakatata atu ki nga panui penei me te ngakau ruarua. Ma te aro o te iwi ki runga i nga aitua whakapae e kore pea e puta, ka taea e nga whakahaere penei i a OpenAI te huri i te taumahatanga o te ture ki nga ra kei mua, kaua ki te whakatika i nga take e pa ana ki te AI me nga mahi, nga korero pohehe, me te mana pupuri e tika ana kia mahia e nga kaihanga kaupapa here i enei ra.

Ko te kaupapa a OpenAI ki te hanga i tetahi roopu whakatapua ki te whakahaere i nga tupono o te tino mohio AI he mahi nui ki te huarahi tika. E whakaatu ana i te hiranga o nga mahi kaikawe ki te whakatika i nga wero ka puta mai e AI matatau. I a tatou e haere tonu ana ki te whakatere i nga uauatanga o te whakawhanaketanga me te ture AI, ko nga kaupapa penei he whakamaumahara mo te hiahia mo te huarahi taurite, tetahi e whakamahi ana i te kaha o AI me te tiaki ano i ona tupono.