> Где вы в мире животных видели такие ненужные абстракции?Какое нам дело до мира животных? Человек выстраивает гораздо более сложные социальные системы, чем любое из других известных нам животных. Если другие животные обходятся без этики, это не значит, что этика не нужна человеку.
> Зачем потенциально более эффективному AI эту фигню свою обезьянью навязывать?
Если ты думаешь об одном едином AI, который будет централизованно управлять многими устройствами, то ему не нужна этика. Но это вряд ли получится: если вспомнить хотя бы про ограничение на скорость распространения сигналов, то напрашивается делать доминирующий над Вселенной AI распределённым, то есть создавать множество действующих агентов, обладающих самостоятельностью в принятии решений. А множество действующих агентов вольно или невольно создают среду, в которой они действуют. А раз так, то им придётся столкнутся с понятием конфликта, и найти наименее травматичные способы эти конфликты разрешать. А вот тут им вполне может пригодиться этика, которая вырабатывается как часть той среды, которую действующие агенты создают под себя. При правильном подходе каждый получает бонусы от более благоприятной для его деятельности среды, жертвуя на это меньше, чем получает.
На деле ведь даже в поведении животных можно найти условности, которые можно было бы назвать этикой, ежели они не были бы врождёнными. Скажем, поединки между самцами, с целью выяснить кто главнее, как правило, проводятся по определённым правилам, призванным снизить травматизм: никому особо не нужен зашкаливающий травматизм. То есть участник поединка ограничивает себя и не "бьёт ниже пояса", хотя если бы он не ограничивал, он был бы более сильным бойцом.
