БИге моралдык чечимдерди кабыл алууну ишенип тапшырууга болобу?

Кеп адамдык эмпатиясы жана интуициясы жок машина моралдык нормаларга ылайык келген чечимдерди кабыл ала алабы же жокпу дегенде жатат. Эгер алар субъективдүү адамдык кабылдоолорго жана баалуулуктарга көз каранды болсо, бейтабий интеллект адилеттүүлүк принциптерин кантип сактай алат? Мына төмөнкү суроолор мааниге ээ:  бейтабий интеллектти өмүр жана өлүм менен байланышкан тармактарда (мисалы, саламаттыкты сактоо же аскердик чөйрө) колдонуунун моралдык чектери кандай? Алгоритм, ал тургай программалык директиваларга кемчиликсиз баш ийсе дагы, моралдык тандоонун контекстин чечмелөөдө жаңылышы мүмкүнбү?

2. Алгоритмдик бир жактуулуктун жана социалдык адилетсиздиктин күчөшүн кантип алдын алуу керек?

Алгоритмдик бир жактуулук – бул алгоритм реалдуу маалыматтардын негизинде үйрөнүп, коомдогу дискриминациялык үлгүлөрдү өздөштүрүп алгандагы көйгөй. Мисалга сот практикасын алсак, эгер шарттуу түрдө бошотуу үчүн тобокелдиктерди баалоо системасы расалык же социалдык стереотиптер жөнүндөгү тарыхый маалыматтарга негизделсе, иштеп чыгуучулардын тарабынан атайылап бир жактуулук болбосо дагы, алгоритм бул стереотиптерди улантып, күчөтүшү мүмкүн.

Талкууланчу маселелер:

• Алгоритмдер үйрөнүүчү маалыматтарда буга чейин эле бир жактуулук болсо, андагы адилеттүүлүктү кантип камсыздоого болот?

• Алгоритмдердин адилеттүүлүгүн жана инклюзивдүүлүгүн камсыз кылуу үчүн кандай көзөмөл механизмдери киргизилиши керек?

• Коомчулук маалыматтардын колдонулушун текшерип жана көзөмөлдөй алышы үчүн алгоритмдик системалардагы ачык-айкындуулуктун ролу кандай?

3. Автономдуу системаларды башкарууда адамдын ролу кандай?

Маанилүү аспект - бул бейтабий интеллекттин аракеттери үчүн ким жооптуу деген суроо. Эгерде система автономдуу иштесе жана анын чечимдери терс кесепеттерге алып келсе, анда ким жооптуу - системаны жараткандарбы, колдонуучуларбы же системанын өзүбү? Бул учурда бейтабий интеллект этикасы эмнеге негизделиши керек? Балким, бейтабий интеллекттин аракеттери үчүн жоопкерчилик, система автономдуу иштеген учурда дагы ар дайым адамдын моюнунда кала берет.

Талкууланчу маселелер:

• Биз бейтабий интеллектке ыйгарым укуктарды берген учурда, анын аракеттери үчүн моралдык жоопкерчиликти кантип сактайбыз?

• Автономдуу системалар үчүн юридикалык жана этикалык жоопкерчилик механизмдерин кантип түзсө болот?

• Жасалма интеллект системалары адамдар сыяктуу эле жоопкерчиликтүү боло алабы?

4. Бейтабий интеллекттин этикалык багыттары болушу мүмкүнбү?

Бул суроо алгоритмдерге этикалык нормаларга ылайык иш алып барууга өбөлгө болчу моралдык багыттарды киргизүү мүмкүнчүлүгүнө тиешелүү.

Бирок мындай системалар өтө эле механикалык болуп, адамдык моралдын татаалдыгын эске ала албай коюу коркунучу барбы?

Маанилүү философиялык аспектилер:

• "Этикалык багыт" деп эмнени түшүнөбүз? Алгоритмдер этикалык нормаларды адамдардай эле сактай алабы?

• Этиканын ар кандай социалдык жана маданий контексттерде колдонулчу универсалдуу кодун түзүүгө мүмкүнбү?

• Эгерде бейтабий интеллект моралдык чечимдерди кабыл ала алса, анда ал чечимдер адамдын жакшылык жана адилеттик жөнүндөгү түшүнүктөрүнө дал келерине кантип кепилдик бере алабыз?

5. Бейтабий интеллект укук субъектиси сыяктуубу?

Бейтабий интеллект абдан көз карандысыз жана татаал болгондо, анын чечимдерин оңой түшүндүрүүгө же алдын ала айтууга мүмкүн болбой калганда - мындай жантын укуктары гана эмес, моралдык милдеттери да барбы – деген суроо жаралат. Бул суроо эркин эрк, жоопкерчилик жана акыл-эстин маңызы жөнүндөгү салттуу философиялык түшүнүктөрдү кеңейтет.

Талкууланчу маселелер:

 • Автономдуу системаларга кандай укуктарды берүүгө болот жана зарыл?

• Автономдуу бейтабий интеллект "укук субъектиси" же "моралдык агент" катары таанылышы мүмкүнбү?

• Бейтабий интеллекттин этикалык статусу биздин жоопкерчилик жана моралдык милдеттенмелерди кабыл алуубузга кандай таасир этет?

Практикалык колдонуу мисалдары

1. Автономдуу унаалар: Жолдогу моралдык тандоо

Автономдуу унаалар бейтабий интеллект этикасынын контекстинде эң көп талкууланган мисалдардын бири болуп саналат. Мындагы маселе реалдуу убакытта чечим кабыл алган автономдуу унаа “эки жамандыктын ортосунда” тандоо жүргүзүүгө, мисалы, жүргүнчүлөргө же жөө жүргүнчүлөргө зыян келтирүү сыяктуу кырдаалга туш болушу мүмкүн экенинде жатат. Бул "моралдык парадоксты" бир нече негизги суроолор аркылуу караса болот:

● Зыянды толугу менен азайтуу: Эгерде алгоритм утилитаризм принцибин (жалпы жыргалчылыкты максималдуу көбөйтүү) карманса, анда унаа бардыгы үчүн эң аз зыян алып келе турган аракетти тандашы керек. Бирок "жамандыктын азы" кайсы болоорун ким чечет? Эгерде ушундай чечимдер зарыл болуп калса, жабырлануучу ким болушу керектигин ким тандайт?

● Белгилери боюнча дискриминация: Алгоритм жолдогу адамдардын жашын, жынысын же социалдык абалын эске ала алабы? Мисалы, эгерде алгоритм баланы эмес, улгайган кишини сүзсө, кесепеттери азыраак болот деп чечсе, анда мындай тандоонун моралдык түшүндүрмөсү кандай?

● Чечим кабыл алууда коомдун ролу: Мындай системаларга кандай этикалык принциптер киргизилиши зарыл? Аларды ким көзөмөлдөп, жөнгө салышы керек — мамлекет, жеке компаниялар же унааларды колдонуучулардын өздөрүбү?

 2. Саламаттыкты сактоодогу алгоритмдер: Дарылоодогу артыкчылык

Саламаттыкты сактоо боюнча алгоритмдер дарылоону дайындоо, медициналык ресурстарды бөлүштүрүү жана диагностика ыкмаларын тандоо боюнча чечимдерди кабыл алууда негизги ролду ойнойт. Бул өзгөчө пандемия сыяктуу кризистик кырдаалдарда, бейтаптардын саны саламаттыкты сактоо системасынын мүмкүнчүлүктөрүнөн кыйла ашып кеткенде актуалдуу.

● Дарылоонун артыкчылыгын аныктоо: Чектелген ресурстар шартында (мисалы, оор ооруларга кабылган бейтаптар массалык түрдө келип түшкөн учурда) алгоритм бейтаптардын кимиси биринчи кезекте дарылануу керектиги жөнүндө чечим кабыл ала алат. Бирок бул тандоону эмне аныктайт? Алгоритм жаш курагы, ден соолугунун абалы же айыгып кетүү ыктымалдыгы жөнүндөгү маалыматтарга таянышы мүмкүн. Суроо туулат: бул алгоритмдердин өзөгүндө кандай моралдык принциптер жатат? Социалдык статус же жашоо сапаты сыяктуу башка факторлорду этибарга албай, жашоого көбүрөөк мүмкүнчүлүгү бар бейтаптарга артыкчылык берүү туура болобу?

 ● Медициналык маалыматтардагы бир жактуулук: Алгоритмдер тарыхый социалдык теңсиздиктерди чагылдырган маалыматтардын негизинде үйрөтүлсө, бир жактуу болушу мүмкүн. Мисалы, эгерде алгоритм белгилүү бир этникалык топторго медициналык кызматкерлер азыраак көңүл бураары тууралуу маалыматтардын негизинде үйрөтүлсө, бул медициналык жардамга жеткиликтүүлүктүн теңсиздигин күчөтүшү мүмкүн. Алгоритмдер социалдык теңсиздикти тереңдетпеген чечимдерди кабыл алышы үчүн, мындай бир жактуулукту кантип азайтууга болот?

 3. Кылмыштуулукту алдын ала айтуу системалары: Адилеттик жана укук үстөмдүгү

Кылмыш кылуу ыктымалдыгын болжолдогон алгоритмдер сот практикасында, айрыкча шектүүнү күрөөгө бошотуу же шарттуу түрдө бошотуу маселелеринде барган сайын маанилүү ролду ойноодо.

● Тобокелдиктерди баалоо алгоритмдери: Кээ бир өлкөлөрдө кайрадан кылмыш кылуу ыктымалдыгын алдын ала айтуу үчүн алгоритмдер колдонулат. Бирок мындай алгоритмдер айрым адамдар ашыкча кармоого же айыптоого дуушар болгон тарыхый маалыматтарга негизделиши мүмкүн. Бул мындай топтор үчүн тобокелдик алгоритм тарабынан адилетсиз бааланышына алып келип, дискриминациянын туюк чөйрөсүн түзүшү мүмкүн.

● Расалык же гендердик басмырлоо: Тарыхый теңсиздикти чагылдырган маалыматтарды колдонгон алгоритмдер расалык же гендердик басмырлоону күчөтүшү мүмкүн. Мисалы, эгерде алгоритм белгилүү бир этникалык топторго катаал жаза чаралары колдонулган маалыматтар боюнча үйрөтүлсө, ал келечекте бул топторду чыныгы далилдер жок болсо дагы, жогорку тобокелдикке айыптоого алып келиши ыктымал.

● Алгоритмдердин ачыктыгы жана түшүнүктүүлүгү: Маселе ошондой эле, мындай алгоритмдик системалар коомчулук үчүн канчалык деңгээлде ачык экенинде жатат. Эгерде алгоритм адамдын эркиндигине же укуктарына тиешелүү чечимдерди кабыл алса, анын түшүнүктүү жана текшерүүгө мүмкүн болушу маанилүү. Анын чечимдерди кабыл алууда кандай моралдык жана этикалык принциптерди колдонгонун түшүнүүгө мүмкүндүк бербеген "кара кутуга" айланып кетпешине кантип кепилдик берүүгө болот?

4. Кредиттик жана камсыздандыруу алгоритмдери: Финансылык адилеттүүлүк жана дискриминация

Финансылык жана камсыздандыруу системаларында бейтабий интеллект кардарлардын төлөөгө жөндөмдүүлүгүн баалоо, тобокелдиктерди эсептөө жана кредиттерди же камсыздандыруу полистерин берүү жөнүндө чечимдерди кабыл алуу үчүн активдүү колдонулат.

● Тобокелдиктерди баалоодогу бир жактуулук: Эгерде алгоритм тарыхый маалыматтарды колдонсо, мисалы, расалык, этникалык же социалдык маалыматты камтыса, анда ал кокусунан эле адамдардын айрым топторун (мисалы, кирешеси төмөн адамдар же азчылыктардын өкүлдөрү) жагымсыз абалга алып келген системаны түзүшү мүмкүн. Мындай алгоритмдер бул топтордун төлөөгө жөндөмдүү экенин көрсөткөн объективдүү факторлорго карабастан, кредиттерге же медициналык кызматтарга жетүүсүнө чектөө коюшу ыктымал.

● Камсыздандыруудагы адилетсиздик: Камсыздандыруу компаниялары тобокелдиктерди баалоо жана сыйлыктарды белгилөө үчүн бейтабий интеллектти колдонушат. Кээ бир учурларда алгоритмдер белгилүү бир топтор үчүн адилетсиз баалоону жаратышы мүмкүн. Мисалы, алгоритмдер кардарлардын ден соолугу тууралуу маалыматтарды эске алуу менен, кайсы бир дарттын бары – жогу аныктала элек болсо дагы "жогорку тобокелдикке" киргизип коёт. 

 ● Экономикалык чечимдер үчүн жоопкерчилик: Эгерде алгоритм адам үчүн каржылык кесепеттерге алып келген чечим кабыл алса, ким жооп берет? Чечимдерди адам эмес, бейтабий интеллект кабыл алган шарттарда кардарларды коргоо жана алардын укуктарын камсыз кылуу механизмдери кандай?

5. Жумушка алуу алгоритмдери: Дискриминация жана бурмалоо коркунучу

Көптөгөн компаниялар бүгүнкү күндө бош орундарга талапкерлерди тандоо процессинде бейтабий интеллектти колдонушат. Бирок эгерде бул алгоритмдер коомдогу учурдагы бир жактуулукту чагылдырган маалыматтардын негизинде үйрөтүлсө, анда алар көптөгөн этикалык көйгөйлөргө дуушар болушу мүмкүн.

● Жынысы же жашы боюнча дискриминация: Эгерде алгоритм жумуш берүүчүлөрдүн тарыхый жактан жынысына же жашына карата бир жактуулукту чагылдырган маалыматтардын негизинде үйрөтүлсө, бул учурдагы дискриминациялык практиканы күчөтүшү мүмкүн. Мисалы, алгоритм техникалык кызматтарга жаш эркектерди тандоого ыктайт, ал эми квалификациялуу аялдарды же улгайган адамдарды этибарга албайт.

● Эмгекти алгоритмдик трансформациялоо: Талапкерлерди тандоого таасир этүүчү алгоритмдер жумуш орундарынын түзүмүн өзгөртүп, белгилүү демографиялык топтор үчүн кесиптик ролдордун тар түрлөрү гана бар болгон эмгек рыногун түзүшү мүмкүн. Белгилүү типаждарга ыктоодон кантип качуу керек жана мүмкүнчүлүктөрдүн теңдигин кантип орнотуу керек?

Философия институтунун "БИФ: Жасалма интеллект философиясы" илимий журналын төмөнкү шилтеме аркылуу окуса болот: https://iphilosophy.naskr.kg/files/Journal_new_philosofy.pdf