Աշխատանքի ընդունման գործընթացներում օգտագործվող ալգորիթմը կարող է խտրականության հանգեցնել թեկնածուների գնահատման ժամանակ։ Կամ հարկային աուդիտներում օգտագործվող համակարգը կարող է անհամաչափորեն թիրախավորել որոշակի խմբերի։ Ահա թե ինչու է կարևոր, որ այս համակարգերը լինեն արդար, թափանցիկ և հաշվետու։

Հիմա... Ալբանիայում և Ճապոնիայում վերջին զարգացումները այս հարցը հասցրել են բոլորովին այլ մակարդակի։

Ալբանիայի կառավարությունը «Դիելլա» անունով թվային օգնականին հանձնարարել է կառավարել մրցութային գործընթացները: Մինչդեռ, Ճապոնիայում քաղաքական կուսակցությունը հայտարարել է, որ արհեստական ​​բանականությանը կնշանակի իր առաջնորդ:

Այո՛, ճիշտ լսեցիք։ Արհեստական ​​բանականության համակարգերը այլևս թաքնված ենթակառուցվածք չեն. դրանք այժմ ստանձնում են հանրային դերեր։

Այսպիսով, ի՞նչ է ալգորիթմական կառավարումը: Պարզ ասած... այն ներառում է արհեստական ​​բանականության համակարգեր, որոնք սովորում են տվյալներից, հարմարվում և գործում են մեծ մասշտաբով: Այս համակարգերը շատ ավելի լայն են, քան պարզապես ֆիքսված կանոնների կիրառումը: Դրանք կարող են առաջարկել գործողություններ, որոնք նույնիսկ իրենց նախագծողները չէին կանխատեսել: Հենց սա է, որ դրանք դարձնում է և՛ հզոր, և՛ դժվար վերահսկելի: Օրինակ... երթևեկության հոսքը օպտիմալացնելու համար նախատեսված համակարգը ժամանակի ընթացքում կարող է որոշումներ կայացնել, որոնք կվատթարացնեն երթևեկությունը որոշակի տարածքներում:

Լուսավորության մտածողները պատկերացնում էին մի աշխարհ, որտեղ վեճերը կարող էին լուծվել հաշվարկների միջոցով։

Ժամանակակից ալգորիթմական կառավարումը, կարծես, կյանքի է կոչում այս նախագիծը՝ խոստանալով կամայականությունից զերծ որոշումներ։ Բայց հիշո՞ւմ եք Մաքս Վեբերի հայտնի «երկաթե վանդակի» փոխաբերությունը։ Ալգորիթմական համակարգերն ավելի են սեղմում այս վանդակը։ Դրանք կարող են սահմանափակել անհատների ազատությունն ու ինքնավարությունը։ Պատկերացրեք սոցիալական ապահովության համակարգը... Այն ավտոմատ կերպով մերժում է որոշակի չափանիշների հիման վրա դիմումները՝ դժվարացնելով մարդկանց համար իրենց հիմնական կարիքների բավարարումը։

Ժամանակակից արհեստական ​​բանականության համակարգերը հիմնված են վիճակագրական եզրակացության վրա: Արդյունքները ստեղծվում են տվյալների բարդ փոխկապակցվածությունները քարտեզագրելով: Սա ապահովում է ճկունություն, բայց նաև ներմուծում է անթափանցիկություն: Նույնիսկ քաղաքականության մշակողները կարող են դժվարանալ բացատրել, թե ինչու է արվում որոշակի առաջարկություն:

Կա նաև ժամանակի խեղաթյուրում։ Անցյալում համակարգերը պարբերական և հետահայաց էին։ Մարդահամար՝ յուրաքանչյուր տասը տարին մեկ, բյուջե՝ յուրաքանչյուր ֆինանսական տարի... Բայց ժամանակակից արհեստական ​​բանականության համակարգերը՞։ Դրանք անընդհատ գործում են։ Դրանք ստանում են իրական ժամանակի տվյալներ և անմիջապես ճշգրտում են որոշումները։ Հենց այս շարունակականությունն է, որ բարդացնում է վերահսկողությունը...

Ուրեմն ի՞նչ պետք է անենք։ Ալբանիայում և Ճապոնիայում անցկացված այս փորձերը իրականում մեզ հնարավորություն են տալիս։ Սա հնարավորություն է մշակելու նորմեր, վերահսկողության պրակտիկա և իրավական շրջանակներ, որոնք կկարգավորեն ալգորիթմական որոշումների կայացման գործընթացները։ Այսպիսով, ո՞րն է մեր խնդիրը հիմա։ Գտնել այս կառավարումը օրինական, բաց քննարկման համար և համապատասխանեցնելու եղանակներ։ Թափանցիկություն... Հաշվետվողականություն... Արդարադատություն...

Այս սկզբունքները պետք է պահպանվեն ալգորիթմական համակարգերի նախագծման և օգտագործման ժամանակ։ Եվ մի մոռանանք... մենք պետք է անընդհատ ջանքեր գործադրենք այս համակարգերի ազդեցությունը վերահսկելու և գնահատելու համար։

Մեր նոր, քաջ աշխարհում, նախքան արհեստական ​​բանականությունը հզորացնելը... գուցե նախ պետք է ինքներս մեզ հարցնենք. իսկապե՞ս պատրա՞ստ ենք։

Այսքանը այս դրվագում։ Շնոհրակալություն մեզ լսելու համար։ Մինչ այդ ցտսեսություն։