Мятежная шлюпка
| Апрель 19, 2013 | Размещено в Креативные решения в науке и технологиях |
ИСТОЧНИК: Роберт Шекли, «Мятеж шлюпки».
СИТУАЦИЯ:
Герои фантастического рассказа Роберта Шекли отправляются исследовать незнакомую, изобилующую водой планету, взяв с собой купленную по случаю универсальную спасательную шлюпку. Лодка оснащена системой безопасности, позволяющей сохранить жизнь экипажа при любых неблагоприятных условиях.
Проблема в том, что нормальные (с точки зрения прежних владельцев судна) условия оказались губительными для землян. Разговорчивая шлюпка поддерживает внутри себя постоянную температуру 20 градусов ниже нуля, кормит экипаж глиной, приправленной машинным маслом, а обычную воду считает смертельным ядом. Высадиться на берег нет никакой возможности, поскольку лодка предполагает, что суша кишит врагами. Как быть экипажу?
СИСТЕМНОЕ ПРОТИВОРЕЧИЕ:
Умная машина должна позволить землянам покинуть судно, чтобы они могли спастись от ее опеки, и не должна позволить им покинуть судно, поскольку не запрограммирована на это.
РЕШЕНИЕ:
Отчаявшись справиться со взбунтовавшейся шлюпкой, герои решили имитировать самоубийство. Чтобы убедить в этом машину, достаточно было демонстративно выпить воды из имевшейся на борту канистры и замереть без движения. Шлюпка, считавшая эту жидкость смертельным ядом, смирилась с потерей и со всеми воинскими почестями предала тела членов экипажа морским волнам, после чего отправилась на поиски своего флота.
ИСПОЛЬЗОВАННЫЙ ПРИЕМ:
Принцип «обратить вред в пользу»
Принцип «наоборот»
КОММЕНТАРИЙ:
Фантастический рассказ Р. Шекли написан в юмористической манере, но, тем не менее, он заставляет задуматься о возможных будущих затруднениях при общении человека с искусственными разумными системами.
Нужно ли предусматривать в автоматизированных системах, обеспечивающих безопасность, возможность «ручного» отключения отдельных функций? И кто будет определять, что отключение необходимо? Где гарантия, что отключение автоматики не причинит вред человеку? Может ли даже чрезвычайно умная машина предусмотреть все нештатные ситуации, включая такие, которые требуют совершения действий, не укладывающихся в рамки привычной логики и здравого смысла?..
