Mwambie paka wako kile unachofikiria ndani - athari ya sanduku nyeusi

Ukweli kwamba algoriti za hali ya juu za AI ni kama kisanduku cheusi (1) ambacho hutupa matokeo bila kufichua jinsi yalivyokuja huwatia wasiwasi wengine na kuwakera wengine.

Mnamo 2015, timu ya utafiti katika Hospitali ya Mount Sinai huko New York iliulizwa kutumia njia hii kuchambua hifadhidata ya kina ya wagonjwa wa ndani (2). Mkusanyiko huu mkubwa una habari nyingi za mgonjwa, matokeo ya mtihani, maagizo ya daktari, na zaidi.

Wanasayansi waliita mpango wa uchambuzi uliotengenezwa wakati wa kazi. Ilipata mafunzo juu ya data kutoka kwa watu wapatao 700. binadamu, na inapojaribiwa katika sajili mpya, imethibitika kuwa na ufanisi mkubwa katika kutabiri ugonjwa. Bila msaada wa wataalamu wa kibinadamu, aligundua mifumo katika rekodi za hospitali inayoonyesha ni mgonjwa gani yuko kwenye njia ya ugonjwa, kama vile saratani ya ini. Kulingana na wataalamu, ufanisi wa utabiri na uchunguzi wa mfumo ulikuwa wa juu zaidi kuliko ule wa njia zingine zinazojulikana.

2. Mfumo wa akili wa bandia wa matibabu kulingana na hifadhidata za wagonjwa

Wakati huo huo, watafiti waligundua kuwa inafanya kazi kwa njia ya kushangaza. Ilibadilika, kwa mfano, kuwa ni bora kwa utambuzi wa matatizo ya akilikama vile schizophrenia, ambayo ni ngumu sana kwa madaktari. Hii ilikuwa ya kushangaza, haswa kwa kuwa hakuna mtu aliyejua jinsi mfumo wa AI unaweza kuona ugonjwa wa akili vizuri kulingana na rekodi za matibabu za mgonjwa. Ndio, wataalam walifurahishwa sana na msaada wa mtaalamu wa uchunguzi wa mashine kama huyo, lakini wangeridhika zaidi ikiwa wangeelewa jinsi AI inafikia hitimisho lake.

Tabaka za neurons za bandia

Tangu mwanzo kabisa, yaani, tangu wakati dhana ya akili ya bandia ilipojulikana, kulikuwa na maoni mawili juu ya AI. Wa kwanza alipendekeza kuwa itakuwa jambo la busara zaidi kujenga mashine zinazosababu kwa mujibu wa kanuni zinazojulikana na mantiki ya kibinadamu, na kufanya kazi zao za ndani kuwa wazi kwa kila mtu. Wengine waliamini kwamba akili ingeibuka kwa urahisi zaidi ikiwa mashine zingejifunza kupitia uchunguzi na majaribio ya mara kwa mara.

Mwisho unamaanisha kugeuza programu ya kawaida ya kompyuta. Badala ya maagizo ya kuandika programu ili kutatua tatizo, programu hutoa algorithm mwenyewe kulingana na data ya sampuli na matokeo unayotaka. Mbinu za kujifunza mashine ambazo baadaye zilibadilika kuwa mifumo yenye nguvu zaidi ya AI inayojulikana leo zimepita njia ya, kwa kweli, mashine yenyewe mipango.

Mbinu hii ilibaki kwenye ukingo wa utafiti wa mifumo ya AI katika miaka ya 60 na 70. Tu mwanzoni mwa muongo uliopita, baada ya mabadiliko na uboreshaji wa upainia, "Deep" mitandao ya neva ilianza kuonyesha uboreshaji mkubwa katika uwezo wa mtazamo wa kiotomatiki. 

Kujifunza kwa kina kwa mashine kumezipa kompyuta uwezo wa ajabu, kama vile uwezo wa kutambua maneno yanayozungumzwa kwa usahihi kama binadamu. Huu ni ujuzi changamano mno kuweza kuupanga kabla ya wakati. Mashine lazima iweze kuunda "mpango" wake kwa mafunzo ya hifadhidata kubwa.

Kujifunza kwa kina pia kumebadilisha utambuzi wa picha ya kompyuta na kuboresha sana ubora wa utafsiri wa mashine. Leo, hutumiwa kufanya kila aina ya maamuzi muhimu katika dawa, fedha, viwanda, na zaidi.

Walakini, pamoja na haya yote huwezi kuangalia tu ndani ya mtandao wa kina wa neva ili kuona jinsi "ndani" inavyofanya kazi. Michakato ya mawazo ya mtandao imepachikwa katika tabia ya maelfu ya niuroni zilizoiga, zilizopangwa katika kadhaa au hata mamia ya tabaka zilizounganishwa kwa njia tata..

Kila moja ya niuroni katika safu ya kwanza hupokea ingizo, kama vile ukubwa wa pikseli kwenye picha, na kisha kufanya hesabu kabla ya kutoa matokeo. Wao hupitishwa kwenye mtandao tata kwa neurons ya safu inayofuata - na kadhalika, mpaka ishara ya mwisho ya pato. Kwa kuongezea, kuna mchakato unaojulikana kama kurekebisha hesabu zinazofanywa na niuroni za kibinafsi ili mtandao wa mafunzo utoe matokeo unayotaka.

Katika mfano unaotajwa mara kwa mara unaohusiana na utambuzi wa picha ya mbwa, viwango vya chini vya AI huchanganua sifa rahisi kama vile umbo au rangi. Vile vya juu vinahusika na masuala magumu zaidi kama manyoya au macho. Safu ya juu pekee ndiyo inayoleta yote pamoja, ikitambulisha seti kamili ya habari kama mbwa.

Mbinu hiyo hiyo inaweza kutumika kwa aina nyingine za pembejeo zinazowezesha mashine kujifunza yenyewe: sauti zinazounda maneno katika hotuba, herufi na maneno ambayo huunda sentensi katika maandishi yaliyoandikwa, au usukani, kwa mfano. harakati zinazohitajika kuendesha gari.

Gari haliruki chochote.

Jaribio linafanywa kueleza nini hasa kinatokea katika mifumo hiyo. Mnamo 2015, watafiti katika Google walirekebisha algoriti ya utambuzi wa picha ya kujifunza ili badala ya kuona vitu kwenye picha, ivitoe au kuvirekebisha. Kwa kuendesha algorithm nyuma, walitaka kugundua sifa ambazo programu hutumia kutambua, kusema, ndege au jengo.

Majaribio haya, yanayojulikana hadharani kama mada, yalitoa maonyesho ya ajabu ya (3) wanyama wa ajabu, wa ajabu, mandhari na wahusika. Kwa kufichua baadhi ya siri za utambuzi wa mashine, kama vile ukweli kwamba ruwaza fulani hurudiwa na kurudiwa, zilionyesha pia jinsi ujifunzaji wa kina wa mashine unavyotofautiana na mtazamo wa binadamu - kwa mfano, kwa maana ya kwamba inapanuka na kunakili vizalia ambavyo tunapuuza. katika mchakato wetu wa utambuzi bila kufikiria. .

3. Picha iliyoundwa katika mradi

Kwa njia, kwa upande mwingine, majaribio haya yamefumbua fumbo la mifumo yetu ya utambuzi. Labda ni kwa mtazamo wetu kwamba kuna vipengele mbalimbali visivyoeleweka ambavyo hutufanya tuelewe mara moja na kupuuza kitu fulani, wakati mashine inarudia kwa uvumilivu marudio yake juu ya vitu "sio muhimu".

Vipimo vingine na tafiti zilifanyika katika jaribio la "kuelewa" mashine. Jason Yosinski aliunda zana ambayo hufanya kazi kama uchunguzi uliokwama kwenye ubongo, ikilenga neuroni yoyote bandia na kutafuta picha inayoiwezesha kwa nguvu zaidi. Katika jaribio la mwisho, picha za muhtasari zilionekana kama matokeo ya "kutazama" mtandao kwa mikono, ambayo ilifanya michakato inayofanyika kwenye mfumo kuwa ya kushangaza zaidi.

Hata hivyo, kwa wanasayansi wengi, utafiti huo ni kutokuelewana, kwa sababu, kwa maoni yao, ili kuelewa mfumo, kutambua mifumo na taratibu za utaratibu wa juu wa kufanya maamuzi magumu, mwingiliano wote wa kimahesabu ndani ya mtandao wa kina wa neva. Ni mlolongo mkubwa wa kazi za hisabati na vigezo. Kwa sasa, ni jambo lisiloeleweka kwetu.

Kompyuta haitaanza? Kwa nini?

Kwa nini ni muhimu kuelewa taratibu za kufanya maamuzi za mifumo ya juu ya akili ya bandia? Mitindo ya hisabati tayari inatumiwa kuamua ni wafungwa gani wanaweza kuachiliwa kwa msamaha, nani anaweza kupewa mkopo, na nani anaweza kupata kazi. Wale ambao wana nia wangependa kujua kwa nini uamuzi huu na si mwingine ulifanywa, ni misingi gani na utaratibu gani.

alikubali mnamo Aprili 2017 katika Mapitio ya Teknolojia ya MIT. Tommy Yaakkola, profesa wa MIT anayefanya kazi kwenye maombi ya kujifunza kwa mashine. -.

Kuna hata msimamo wa kisheria na kisera kwamba uwezo wa kuchunguza na kuelewa utaratibu wa kufanya maamuzi wa mifumo ya AI ni haki ya msingi ya binadamu.

Tangu 2018, EU imekuwa ikifanya kazi katika kuhitaji makampuni kutoa maelezo kwa wateja wao kuhusu maamuzi yanayofanywa na mifumo ya kiotomatiki. Imebainika kuwa hili haliwezekani wakati mwingine hata kwa mifumo inayoonekana kuwa rahisi, kama vile programu na tovuti zinazotumia sayansi ya kina kuonyesha matangazo au kupendekeza nyimbo.

Kompyuta zinazoendesha huduma hizi hujipanga wenyewe, na zinafanya kwa njia ambazo hatuwezi kuelewa ... Hata wahandisi wanaounda programu hizi hawawezi kueleza kikamilifu jinsi inavyofanya kazi.