Папата: изкуственият интелект да се използва за прокарване пътища на мира
Салваторе Чернуцио – Маня Кавалджиева – Ватикана
От една страна, „ентусиазиращи възможности“, като подобряването на работата, на условията на живот на хората, на медицинските инструменти и на личните взаимоотношения; от друга страна, „сериозни рискове“, като нерегламентираната употреба на така наречените „интелигентни“ оръжия, произтичащата от това опасност от терористични атаки, като по този начин се насърчава „безумието на войната“ или намеси, насочени към дестабилизиране на легитимни държавни институции, като се стига, например, до оказване на влияние върху политическите избори. Папата поставя на везната пороците (възможни и действителни) и добродетелите на ИИ и новите технологии, в своето послание за 57-я Световен ден на мира, който се отбелязва на 1 януари 2024 г. „Изкуствен интелект и мир“ е заглавието на документа, в който Светият Отец изпраща своите пожелания за мир – повече от всякога необходими в свят, разкъсван от войни – към Божия народ, към нациите, към държавните и правителствени ръководители, към представителите на различните религии и гражданското общество.
Не на безумието на войната
Папата говори за мир, който преминава и през напредъка на науката и технологиите и който „до степента, в която допринася за по-добър ред на човешкото общество“, води до „подобряване на човека и трансформация на света“. От друга страна, същият този свят, станал сцена на трета световна война на части, „съвсем не се нуждае от нови технологии, които допринасят за несправедливото развитие на пазара и на търговията с оръжия, насърчавайки безумието на войната. Като става това, пише Франциск, не само интелектът, но и самото човешко сърце рискува да стане все по-„изкуствено“.
Изключителни постижения
В своето послание Хорхе Марио Берголио приветства „изключителните постижения на науката и технологиите“, благодарение на които „бе намерен лек на безбройните проблеми, засегнали човешкия живот и причинили големи страдания“. В същото време този научно-технически прогрес „поставя в ръцете на човека широка гама от възможности“, като някои – предупреждава папата – могат да представляват „риск за оцеляването и опасност за общия дом“.
Свободата и мирното съжителство са застрашени, когато хората се поддават на изкушението на егоизма, на личния интерес, на желанието за печалба и на жаждата за власт.
Смъртоносни автономни оръжейни системи
Погледът е насочен към международния сценарий: „възможността за провеждане на военни операции чрез системи за дистанционно управление доведе до по-малко възприемане на опустошението, причинено от тях и на отговорността за тяхното използване, допринасяйки за още по-студен и по-дистанциран подход към огромна трагедия на войната", пише папата. Изследванията на нововъзникващите технологии в сектора на така наречените „смъртоносни автономни оръжейни системи", включително използването на изкуствен интелект във военните действия, са „сериозна причина за етична загриженост".
Папата заявява, че автономните оръжейни системи никога няма да бъдат „морално отговорни субекти". Една машина, колкото и да е интелигентна, „винаги остава машина". Затова е „наложително“ „да се гарантира подходящ, значителен и последователен човешки контрол на оръжейните системи“.
Не можем да пренебрегнем и възможността сложни оръжия да попаднат в грешни ръце, улеснявайки, например, терористични атаки или намеси, насочени към дестабилизиране на законните правителствени институции.
Прокарване пътища на мира
Следователно най-напредналите технически приложения трябва да се използват „за прокарване пътища на мира“: „от по-положителна гледна точка, ако изкуственият интелект се използва за насърчаване на цялостното човешко развитие, той би могъл да въведе важни иновации в селското стопанство, образованието и културата, подобряване на стандарта на живот на цели държави и народи, да доведе до растеж на човешкото братство и на социалното приятелство", подчертава папата. В този смисъл той говори за „етика на алгоритмите", като „етично развитие на алгоритмите” в експериментите, проектирането, производството, дистрибуцията и маркетинга. Етапи, в които „образователните институции и лицата, вземащи решения, играят съществена роля“.
Договор за употребата на ИИ
Папата многократно призовава за контрол и наблюдение на тези процеси в своето послание. И отправя предложението към международната общност „да работи обединена, за приемането на обвързващ международен договор“, който да регулира развитието и използването на изкуствения интелект в неговите многобройни форми, като има предвид всички заинтересовани страни, включително тези, които са изключени от световните дебати.
Дълбоки трансформации
Наистина, твърде много са „дълбоките трансформации“, до които доведоха новите технологии в областта на комуникацията, на публичната администрация, на образованието, на потреблението, на личните взаимоотношения и в безброй други аспекти на ежедневния живот.
Технологиите, които използват различни алгоритми, могат да извлекат, от цифровите следи, оставени в интернет, данни, които позволяват да бъдат контролирани умствените и релационните навици на хората за търговски или политически цели, често без тяхното знание, ограничавайки тяхното съзнателно упражняване на свободата на избор.
Не е истински напредък
В пространство като мрежата, претоварено с информация, технологиите „могат да структурират потока от данни според критерии за избор, които не винаги се възприемат от потребителя“. Рисковете са реални и могат да засегнат лично живота на хората. „Формите на интелигентност“ – правилно е да се говори за тях в множествено число – имат въздействие, което „зависи и от целите и интересите на тези, които ги притежават и развиват, както и от ситуациите, в които се използват“ , подчертава папата. Не е казано, че априори неговото развитие „има полезен принос за бъдещето на човечеството и за мира между народите". И не е и достатъчно „да се предположи, от страна на тези, които проектират алгоритмите и цифровите технологии, ангажимент да се действа по етичен и отговорен начин“. Затова е необходимо да се „укрепят или, ако е необходимо, да се създадат органи, натоварени с разглеждането на възникващите етични проблеми и за защита на правата на онези, които използват форми на изкуствен интелект или са повлияни от него“.
Технологичното развитие, което не води до подобряване на качеството на живот на цялото човечество, а напротив, задълбочава неравенствата и конфликтите, никога не може да се счита за истински напредък.
Системи, способни да „халюцинират“
Папа Франциск говори за „машинно обучение“, „автоматично обучение“ и „задълбочено обучение“: „способността на някои устройства да произвеждат синтактично и семантично съгласувани текстове, например, не е гаранция за надеждност“, отбелязва папата. Тези инструменти могат да „халюцинират“, тоест да „генерират твърдения, които на пръв поглед изглеждат правдоподобни, но в действителност са неоснователни или издават предразсъдъци“.
От само себе си се разбира, че това може да създаде „сериозни проблеми“, ако изкуственият интелект се използва в „кампании за дезинформация, които разпространяват фалшиви новини“ и водят до „нарастващо недоверие към средствата за комуникация“. Наистина, дава се място на дискриминация, намеса в изборните процеси, контрол на хората, цифрово изключване, както и „изостряне на индивидуализма, все по-откъснат от общността“. Все фактори, които рискуват да „разпалят конфликтите“ и да „възпрепятстват мира“.
Риск от спиралата на технологична диктатура
Освен това „голямото количество данни, анализирани от изкуствения интелект, само по себе си не е гаранция за безпристрастност“, предупреждава Франциск. „Когато алгоритмите извличат информация, те винаги рискуват да я изкривят, повтаряйки несправедливостите и предразсъдъците на средата, от която произлизат“. В технократската система, която предпочита преувеличената ефективност, може да се стигне до заобикаляне на „чувството за марка“. Което с други думи означава, че в манията „да се контролира всичко“, човешкото същество рискува „да загуби контрола върху себе си“ и „да попадне в спиралата на технологична диктатура“. По този начин „неравенствата могат да растат драстично, а знанието и богатството да се трупат в ръцете на малцина, със сериозни рискове за демократичните общества и мирното съжителство“.
В бъдеще надеждността на тези, които искат заем, годността на дадено лице за работа, възможността за повторно престъпление на осъдено лице или правото на получаване на политическо убежище или социална помощ, ще могат да се определят от системи с изкуствен интелект.
Форми на манипулация и контрол
Не само това: „формите на изкуствения интелект изглеждат способни да влияят върху решенията на индивидите чрез предварително определени опции, свързани със стимули и разубеждавания, или чрез системи за регулиране на личните избори, базирани на организацията на информацията“. Това са „форми на манипулация или на социален контрол", които „изискват внимание и внимателен надзор, и предполагат ясна правна отговорност от страна на производителите, на тези, които ги използват и на държавните органи", пише папата. Той също така предупреждава за опасността от „неправилни класации сред гражданите“, създавани от автоматични процеси, които категоризират индивидите: те също могат да доведат до „конфликти за власт“, твърди папата, в ущърб на „хора от плът и кръв“.
Фундаменталното зачитане на човешкото достойнство изисква отказ да се позволи уникалността на личността да бъде идентифицирана с набор от данни.
Темата за труда
И накрая, темата за труда също е залегнала в папското послание: „задачите, които някога са били изключителен прерогатив на човешкия труд, бързо се поглъщат от индустриалните приложения на изкуствения интелект", пише папата. Дори в този случай „има значителен риск от непропорционално предимство за малцина за сметка на обедняването на мнозина“. Призивът е международната общност да постави като свой „висок приоритет“ зачитането на достойнството на работниците и значението на работната заетост за икономическото благосъстояние на хората, семействата и обществата, сигурността на работните места и справедливите заплати.
Апел към училища и институции
Оттук и поканата към институциите да образоват в използването на форми на изкуствен интелект: „необходимо е потребителите от всички възрасти, но особено младите хора, да развият способност за разграничават при използването на данни и съдържание, събрани в мрежата или произведени от системи с изкуствен интелект“, отбелязва папа Франциск. „Училищата, университетите и научните дружества са призвани да помагат на студентите и професионалистите да възприемат социалните и етичните аспекти на развитието и използването на технологиите“.
Молитвата на папата
В заключение на посланието, молитва от епископа на Рим за Новата година:
„Нека бързото развитие на формите на изкуствения интелект да не увеличава твърде многото неравенства и несправедливости, които вече съществуват в света, а да допринася за прекратяването на войните и конфликтите, и за облекчаването на многото форми на страдание, които засягат човешкото семейство“.
