Ответственность информационных систем
В грядущем супериндустриальном или, точнее, информационном и системотехнологическом веке информационные системы станут принимать решения во все более растущем объеме.
В сложных областях управления, в области контроля над данными и в управлении системами принятие решений предоставляется компьютерам, имеющим чрезвычайно гибкое математическое обеспечение, обладающим логической приспособляемостью. По логике вещей, компьютерам будет предоставлена функция принятия решений также по жизненно важным социальным и даже индивидуальным проблемам [5]. Это особенно касается военной области, в которой задействованы сложнейшие технические системы, и в случае чрезвычайных ситуаций человек просто не будет в состоянии достаточно оперативно и быстро принять необходимые решения, притом достаточно ответственные. С другой стороны, сама передача функции принятия решений компьютерным системам означает, что решения принимаются без «ответственного лица», т.е. человека или группы людей. Возникает вопрос: идет ли здесь речь о своего рода групповой и даже институциональной «неответственности» за подготовку, реализацию и контролирование реализации решений? Или другой вопрос в этой же связи: имеем ли мы право «привлекать к ответственности» принимающие решения компьютерные системы? Здесь, по-видимому, речь идет о возникшей и не существовавшей доселе новой опасности — снятия самого чувства ответственности с человека. который по своей природе и роли с производстве и обществе должен нести ее, и передачи этой ответственности компьютерным системам. Для иллюстрации этого феномена передачи функции «системам» можно привести пример: программирование заранее обусловленных решений о запуске ракет на основе данных систем предварительного оповещения, если иметь в виду слишком часто появляющиеся в печати сообщения о ложных тревогах. Можно ли, позволительно ли доверять ответственность такого рода компьютерной системе, если она даже весьма гибка, способна учиться, крайне чувствительна в сфере восприятия дифференцированных данных? Кто же должен нести ответственность фактически и этически?
За ложное решение, принятое компьютерной системой, не могут нести ответственность в отдельности ни проектировщик, ни создатель программы или математического обеспечения системы, ни руководитель соответствующего вычислительного центра. Может ли такую ответственность нести политический деятель, стоящий далеко от компьютерных систем и понимания их механизмов воздействия, однако занимающий пост, облеченный ответственностью? И вообще существует ли здесь общая, глобальная ответственность за нормальное функционирование, а также за сбой или выход из строя решающих устройств?
Итак, человек вынужден довериться по возможности безошибочным и безупречным информационным и решающим системам. Означает ли это, что ответственность теперь заложена в системах? Можно ли сказать, что человек постепенно освобождается от ответственности, в то время как системы становятся все более «ответственными»? И вообще, в каком смысле система может быть ответственна? Относится ли эта передача ответственности системам только к сфере поисков причин тех или иных ошибок или сбоев в системах с целью восстановления безупречного функционирования устройства? Или, быть может, такая «взявшая на себя ответственность» система несет еще и юридическую, и даже моральную ответственность? Вообще-то кажется ясно, что компьютеры не являются моральными, социальными существами и что информационные системы не могут брать на себя — в узком смысле слова — моральную ответственность. С другой стороны, если мы хотим воспрепятствовать дальнейшему распространению какого-либо возникшего внутри системы состояния, которое не содержит явного «состава преступления», достаточного для того, чтобы обвинять его в отсутствии ответственности, фактически определенного рода ответственность системы все же налицо.
У.Бехтель и Д.Снэппер в своих работах полностью специфицируют реализуемые условия для гибко, программно регулируемых разрешающих систем, которые, по их мнению, позволяют нам вменять этим системам правовую и моральную ответственность [5]. Снэппер, например, полагает, что с правовой точки зрения законы могут и должны быть изменены так, чтобы компьютеры могли считаться «ответственными» в том смысле, чтобы их эксплуатирующие (а в определенных случаях и их изготовляющие и поставляющие) учреждения и предприятия гарантировали от возможного их выхода из строя, сбоя или от ущерба, нанесенного ими по ходу их функционирования. Сам компьютер «не может принимать некую (ментальную) установку по отношению к сделанному им выбору». В этом смысле компьютеры не осуществляют каких-либо рефлективных, тем более направленных на самих себя сознательных процессов или сознательных репрезентаций, которые бы учитывали субъективность и положение действующего субъекта, как и его включение в контекст других действующих субъектов. В этом, более специфическом, характерном для социальности и моральности смысле компьютеру нельзя, разумеется, вменять никакой ответственности. Компьютер, считает Снэппер, может нести ответственность в плане своей способности обдумывать, однако в плане вполне сознательных и произвольных (свободных от внешнего условия) действий он никакой ответственности нести не может.