Вопрос №6216. Про людей и кукол

[Дежурный Обоснуй]

Общество вида настоящее плюс пять минут(на самом деле немного больше) в будущее.
Будет ли считаться аморальным использование эмуляции слепка нейросети живого человека на базе современной цифровой техники (опустим тот факт, что это вряд ли на самом деле будет возможно по физическим причинам в двух направлениях сразу), никаких квантомагических компьютеров, как управляющего элемента в местах, где для людей опасно(военная техника) или на всех желающих людей не хватит (умная бытовая прислуга, и даже умные секс-куклы)? С одной стороны, это все же не может быть полноценный разум, с другой стороны, как отличить китайскую комнату/философского зомби, если если они будут воспроизводить реакции и поведение оригинала?

@темы: Фэнтези/фантастика, Отношения/социальные взаимодействия, Кибернетика/роботехника

Comments

[Гость]

С одной стороны, это все же не может быть полноценный разум, с другой стороны, как отличить китайскую комнату/философского зомби, если если они будут воспроизводить реакции и поведение оригинала?

Если, предположим, что либеральное общество будет таким как сейчас, то будет считаться аморальным.
И если будут приняты законы, регулирующие использование таким образом ИИ, то и незаконным.
Поскольку при создании копий неких настоящих личностей должны учитываться интересы этой самой личности. И если личность не давала согласие на создание любых копий, воспроизводящих ее реакции, значит, создавать эти копии аморально.

Но вообще, автору стоит учесть, что законодательство, касающееся использование ИИ, постепенно создается и начинает действовать.
Так что скорее всего вопрос для ближайшего будущего стоит не в аморальности, а в законности.

[Гость]

ТС, представь, что создали куклу в виде твоего любимого хомячка и прямо указали - хомячок ТС - и начали эту куклу-хомячка топить, вешать и насиловать.
Ну и подумай, аморально это или нет.
Каким ты видишь этот ответ, таким и будем мир, про который ты пишешь.

[Гость]

И если личность не давала согласие на создание любых копий, воспроизводящих ее реакции, значит, создавать эти копии аморально.

По отдаленным мотивам "Видоизмененного углерода", вторая книжка - а ведь интересный бизнес вырисовывается - лицензионные отчисления оригиналу по производству копий. Ведь не каждый может оказаться годен для такого использования. (В книжке был эпизод с Рынком Душ, где местные стеки погибших людей (это хранилища памяти такие) продавали на вес ведрами, а протагонист команду себе собирал)))

ТС, представь, что создали куклу в виде твоего любимого хомячка и прямо указали - хомячок ТС - и начали эту куклу-хомячка топить, вешать и насиловать.
Ну и подумай, аморально это или нет.

Я подумаю, что кто-то меня очень ненавидит, раз хочет отыграться пусть даже на копии моей вещи. Знакомое поведение школьных булли, которым в прикол портить чужие вещи и тащиться с огорчения владельцев.
з.ы. Ой, тут в Звездных Войнах даже условно хорошие в производстве рабов в заводском масштабе ничего плохого не увидели. Я с клонов маленько охуел. Причем ни внутри мира ни у кого не почесалось "ачотакова", ни у зрителей не пригорело. Ну условность и условность.

[Гость]

Кукол обычных с живых людей делают. И никто не отслеживает, как именно в них играют. Реал персон-фанфики, не фанфики, фильмы, анимацию и прочее тоже аморальными не считаются, хоть что ты с героям делай.
Голоса и записи умерших актеров используют в фильмах снимаемых после их смерти или на концертах, проходящих тоже после смерти.

По использованию слепка личности, который личностью не будет (а где грань?) (а значит, теоретически отличить робота от человека будет можно) наверняка в обществе пройдут дебаты и в опасные места такой слепок, например, будет посылать морально, а для секс-игр - нет. Но в опасные места посылать робота в виде человека вряд ли осмысленно, там скорее всего тело этого робота будет приспособленное к среде и задаче, а не обязательно гуманоидное.

Ну и законы под это использование тоже рано или поздно примут.

[Гость]

с другой стороны, как отличить китайскую комнату/философского зомби, если если они будут воспроизводить реакции и поведение оригинала?

Современные нейросети очень плохо справляются с задачами, которые похожи на популярные логические задачи, но на самом деле другие. Например, есть популярная задача про то, как найти 3 самых быстрых из 25 лошадей, сравнивая не более 5 лошадей за раз. Как оказалось, если спросить нейросеть, как найти самую быструю лошадь из пяти,  она с большой вероятностью напишет ответ на задачу с 25 лошадьми, потому что он часто встречается в интернете. И всё в таком духе.

[Гость]

Современные нейросети

На данный момент про эмуляцию нейросетей, сопоставимых по обьему и сложности с человеческим мозгом, вроде бы говорить не приходится. А все прогнозы очень хорошо описываются вот этой цитатой:
Это очень много, но всего на 1-2 порядка больше, чем в современных крупномасштабных системах.
Я слышу об этом уже лет 40, что не хватает 1-2 порядков...
При этом неочевидно, не встанет ли рост вычислительной производительности вообще. При этом моднявые квантовые вычисления могут в какой уже раз стать таким же недостижимым граалем науки, как и управляемый термояд, о котором тоже уже, бля, с 60 годов прошлого века пиздят, а воз и ныне там.