Проблеми застосування автоматичних алгоритмів прийняття рішень: етичний та соціальний аналіз

Abstract

У статті досліджуються етичні та соціальні проблеми, що постають із застосування автоматичних алгоритмів прийняття рішень (ААПР), які визначено як комп’ютерні програми, що перетворюють вхідні дані (оцифровану інформацію про індивідів) на вихідні (рішення) на основі своїх запрограмованих інструкцій. Такі алгоритми щораз ширше застосовують у багатьох сферах людської діяльності, зокрема банківській, страховій, маркетинговій та ін. Хоча їхнє використання має очевидні переваги, вони водночас порушують низку етичних, філософських та соціальних проблем, окремі з яких розглядаються у цій статті. Ґрунтуючись на ідеях Льюїса Мамфорда, вказано, що суспільство в інформаційну епоху можна розглядати як абстракцію його ключової технології – комп’ютера. У руслі підходу Жиля Дельоза суспільство, яке вибудовується довкола алгоритмів, що перетворюють дані, визначено як «суспільство контролю». Таке суспільство утверджується як нова історична форма влади, котра приходить на зміну «дисциплінарній» владі, концепцію якої обґрунтував Мішель Фуко. Аналізуються особливості формування такого суспільства у Китаї та на Заході. У Китаї його метою є винагорода і покарання «корисних» та «некорисних» для держави громадян, тоді як на Заході – підштовхування людей до дій, які приносять прибуток технологічним компаніям та їхнім клієнтам. Розглянуто кілька контроверсійних прикладів застосування ААПР і подано їхню етичну та соціальну інтерпретацію. Зокрема, обґрунтовано такі проблемні аспекти, які постають із їхнього використання: односторонній та непрозорий характер прийнятих рішень і труднощі їх оскарження, втручання у приватність, байдужість до соціальних контекстів, редукціонізм, стигматизація, формування петель позитивного зворотного зв’язку, а також упереджене ставлення до меншин. Аналіз пов’язаних з діджиталізацією у нашій країні етичних, філософських та соціальних проблем стає актуальним завданням у вітчизняних гуманітарних та суспільних науках. Важливим, зокрема, є обґрунтування етичних принципів, на які повинен спиратись процес діджиталізації, що є перспективним напрямом подальшої розробки проблематики цієї статті.

The article examines the ethical and social problems arising from the use of automatic decision-making algorithms. These tools are defined as computer programs, which convert data inputs (digitized information about individuals) into outputs (decisions) based on their pre-programmed instructions. These instruments have become increasingly widespread in a wide range of spheres, including banking, insurance, marketing, employment, etc. Despite their utilization has obvious advantages, they simultaneously raise several ethical, philosophical, and social problems, some of which are discussed in this article. Based on the ideas of Lewis Mumford, it is indicated that society in the information age can be viewed as an abstraction of its key technology – the computer. In light of the approach of Gilles Deleuze, the society, which is formed around switches converting data, is defined as a «society of control». In such a society, a new and unprecedented historical type of power is exercised, which comes to replace the «disciplinary» power substantiated by Michel Foucault. The features of the «society of control» are different in China and in the West. In China, its task is rewarding and punishing citizens who are considered «useful» or «useless» by the state. In the West, it meant to «nudge» people into actions that bring profit for digital corporations and their clients. A number of controversial cases of the application of algorithms are discussed in this article. In particular, the following problematic aspects of their utilization are highlighted: their decisions are one-sided and opaque, they interfere with privacy, are blind to social contexts, entail reductionism and stigmatization, create pernicious feedback loops, which tend to become «self-fulfilling prophecies», and can be biased to minorities. The analysis of ethical, philosophical, and social problems, which are associated with the «digitalization» reform in Ukraine, is an urgent task for our country’s social and humanitarian studies. In particular, it is important to substantiate the ethical principles, on which the process of «digitalization» should be based, which is a promising direction for a future research in this field.