Многофакторные риски

Счастливые идиоты
Летом 1963 года ваш покорный слуга лежал на пляже в Коктебеле, читая книгу Росса Эшби “Введение в кибернетику” и размышляя о том, что, как бы глубоко мы ни проникли в тайны теории управления, а поручить машине управление всем обществом – НЕЛЬЗЯ. Не потому, что она плохо справится с задачей, а потому, что у нас и у машины могут оказаться разные критерии плохого и хорошего.



К тому моменту Лемом уже была написана “Сумма технологии”, но до русского ее перевода оставалось еще целых 5 лет. Лем был виртуозом мысленного эксперимента и в “Сумме технологии” блестяще объяснил, как это может быть. Представьте себе, говорит Лем, что вы живете в обществе, управляемом машиной. Ее конструировали и программировали лучшие человеческие умы и они, разумеется, постарались максимально обезопасить человека от рисков, связанных с машиной. Машина в принципе не может причинить вреда человеку.

Но! При создании машины представляется естественным заложить в нее стремление к всеобщему человеческому счастью, к максимально полному удовлетворению человеческих потребностей, заложив при этом и вполне разумное требование экономии ресурсов. И вот, машина замечает, что некое очень эффективное лекарство от кариеса повышает вероятность рождения идиотов. Замечает она и то, что у идиотов – скромные потребности, идиотическое счастье очень экономно. Она усиленно рекламирует это лекарство – только-то и всего! И вот, проходит 100 – 200 – 300 лет. В самом райском уголке планеты возвышаются гигантские типа гостиничные корпуса, разбитые на мелкие ячейки, а в каждой ячейке булькает питательными трубками обихоженный хитрой автоматикой счастливый идиот. Вот такое “всеобщее счастье”.


В каждой точке “пространства технологий” происходят разнообразные независимые друг от друга вещи. И мы можем даже не отдавать себе отчета в том, что события, происходящие в удаленных точках этого пространства могут как-то соотноситься между собой, накладываясь друг на друга и давая некий сложный совокупный и непрогнозируемый результат, вполне могущий оказаться очень и очень нежелательным.


Да и не так-то это просто, быстро понять что на что и где наложится. В какой-то момент появились очень эффективные моющие средства для посуды. Прекрасно? Но они содержат мощные детергенты, которые, попадая в желудочно-кишечный тракт даже в малых количествах, сильно повреждают его слизистые оболочки! Вряд ли эти детергенты создавались для мытья посуды. Многие ли знают об этом? А иная хозяйка, только ей заикнись, тут же ответит: “Не учите меня жить, лучше помогите материально! Что я, уже и посуду без подсказки не вымою?”


Вот свежая новость из украинских новостных лент: вся Украина (поголовно!) отравлена диоксином. Читайте – тут (http://mignews.com.ua/ru/articles/58890.html). И даже выяснить, кто в какой степени – невозможно. Потому что соответствующий тест стоит более $1000! У государства только на диоксин Виктора Андреевича денег и хватает. Кто-то когда-то изобрел пластмассы. Всем понравилось. А потом понадобилось изобретать способы их утилизации. Ну, и!.. 


А откуда взялась эпидемия ожирения, захватывающая планету? Ведь это изменились свойства сельскохозяйственных продуктов под воздействием людей, испытывающих давление голода.


Сегодня мы производим и покупаем люминесцентные энергосберегающие лампочки. Но механизмов их безопасной утилизации не создали, и потому завтра они отравят ртутью все мусоросборники. 


В общем, риски, которым мы подвергаемся, гораздо сложнее и многообразнее, чем может показаться на первый взгляд. Потому что они – многофакторны. А еще хочется сказать, что для того, чтобы стать свидетелем осуществления лемовского мысленного проекта, совсем не обязательно жить до далекого будущего. Он может осуществиться уже завтра. Даже без машины. 


И еще. Вряд ли я правильно озаглавил статью. Все эти вещи можно было называть рисками хотя бы лет 50 тому назад, лежа на пляже в Коктебеле. А сегодня это - уже осуществившиеся угрозы. Их очень много, они разного масштаба, но в совокупности могут дать такой эффект, что никакой бункер от них не спасет.