Растения как живые существа?

[АртёмМ]

Особенность человечьего рассуждающего ума в том, что из двух вариантов: правильного и неправильного он далеко не всегда выбирает правильный. : ) Особенно в свете "Я решаю это САМ и никто мне не указ!".
Другое дело -- личный опыт, против которого переть -- неоспоримая глупость...
И на основании доступного мне опыта невозможно утверждать, будто кибер-машина может мыслить, переживая, на уровне человечьем. Ибо чувства (а хоть ЧЮ взять : ) неформализуемы.

Я имею ввиду говоря о определении есть сознание или нет, экстраполируя свой непосредственный опыт.

Например общаясь с вами я прихожу к выводу, что у вас есть сознание - потому что вы себя ведёте так, как я сам, обладающий сознанием. То что у меня есть сознание - мне известно, поскольку непосредственно присутствует.

Заглянуть в ваше сознание и удостовериться в том, что оно у вас и правда есть такое же как у меня- я не умею и предполагаю что в принципе не могу. Вы ведь вполне можете быть и автоматом со сложной обратной связью, реагирующим на внешнюю среду.

Следовательно если я таким образом оцениваю на предмет наличия сознания людей, я в состоянии те же методы оценки перенести и на машины. Если машина будет вести себя образом, который я сочту разумным, то я соглашусь что она разумна. Если в общении с машиной я приду к выводу, что она обладает сознанием, я с этим соглашусь.

[АртёмМ]

Чуть продолжу мысль.
Личное мнение далеко не всегда можно проверить на практике да ещё и изменить его на ему "полярное": человеки склонны цепляться за своё, ибо им -- в массе свойственно ошибаться, а не познавать истину... Такие дела. %)

В таком случае я не человек с вашей точки зрения. Поскольку мне свойственно разбираться в вопросе.

[Денис Евгеньев]

Компьютер может считать быстрее человека, с этим никто не спорит. Но мы не ищем ответ на вопрос, может ли человек стать компьютером. Вопрос противоположный - может ли компьютер стать человеком в смысле полноценного моделирования сознания. Поэтому нас не интересуют задачи, которые решает компьютер, но не может решить человек, и не интересуют задачи, которые не может решить ни тот, ни другой. Нас интересуют задачи, которые человек решает, а компьютер - нет.

Не совсем так. Нас интересуют невычислимые проблемы, доказательно разрешимые человеком.
Возьмем проблему останова. Не существует машины, которая устанавливает останов произвольного алгоритма. А существует ли такой человек? Это Пенроузом не доказано да и крайне маловероятно. Аналогично с другими невычислимыми.

[Юй Кан]

В таком случае я не человек с вашей точки зрения. Поскольку мне свойственно разбираться в вопросе.

Ну и зачем себя "дискредитировали", да ещё приписав это мну, у которого не было ни слова о стремлении разбираться (или не разбираться) в вопросе, но была, в итоге, развёртка крылатого лат. высказывания: Errare humanum est? : )

[Karadur]

Во-первых, эти книги есть на русском и я их разве что наизусть не выучил.
Во-вторых, приведенная Вами цитата говорит лишь о том, что человеческие математики не описываемы как формальная система, просто делая из этого фетиш.

Вероятно Вы не очень понимаете сути моей критики Как и многие, кто ведется на эти размышления о формальных системах.

Вы должны понимать, что естественный мир - неформальная система. Ни в чем и никогда. Вас ведь это не смущает?
Так же вы должны понимать, что чистые алгоритмы, как формальные системы, взаимодействуя с естественным миром, сами по себе не перестают быть формальной системой, так же как и выведенные ими данные.
Вы способны это понять или нет? Неформальны не сам алгоритм, взаимодействующий с внешним миром. Не база данных, не процедуры обработки с ней, не интерфейсы взаимодействия, но только то, что может быть этим алгоритмам "скормлено" в виде внешних данных. Подумайте хорошенько, можно ли формализовать входные данные, которые еще не собраны?

Теперь вот такой Вам вопрос - может ли формальная система взаимодействовать с потоками данных, рождаемых системой неформализуемой?
И теперь Вам следующий вопрос - можете ли Вы доказать, что в уме человека, как формальной системе представлений о неформализуемом в своей полноте и непротиворечивости мире, есть хоть какая-то потребность в каких-то особенных невычислимых операциях с этими представлениями о мире?

Поищите у Пенроуза доказательства, что человек-математик действительно неформализуем, не является формальной системой.
Я утверждаю, что все представления человека, включая очень-очень примитивные и очень-очень сложные - это простая формальная система признаков и обобщений. Вы можете это хоть как-то опровергнуть? У Вас есть основания хоть как-то подвергнуть это сомнению?

Естественный мир как раз-таки очень хорошо формализуем и вычислим, пока формализация не упирается в ту самую квалию. Впрочем, не очень понятно, что вы имеете в виду под "естественным" миром. Я это понимаю как "наблюдаемый" или "физический". Конечно, наблюдаемый мир сам по себе не является "формальной системой", но нам этого и не нужно, нам достаточно того, что он формализуем.

Но есть ещё важный момент - я не думаю, что вычислимость эквивалентна формализации. Пенроуз доказывает невычислимость всего лишь одного аспекта - математического понимания. Невычислимость квалии это отдельный аргумент против сильного ИИ, Пенроуз это просто не рассматривает. А формализация это всего лишь перевод с человеческого языка на абстрактный. После формализации системы понятий вам всё равно нужно доказывать её непротиворечивость, а также вычислимость или невычислимость разных задач в этой системе. Пенроуз как раз-таки формализует "математическое понимание" как аспект сознания, иначе бы он не мог начать формальные рассуждения. Математическое понимание он определяет как способность устанавливать истинность утверждений. Это соответствует Машине Тьюринга, дающей ответ на вопросы об истинности.

Про формализацию "входных данных". Дело в том, что входные данные для любой программы - это просто поток бит. Формализуем или нет внешний мир здесь не имеет значения, потому что программа всё равно получит поток бит. Говорить про формальность или неформальность этого потока бессмысленно. Машина Тьюринга должна получить на входе символы известного ей алфавита, это условие начала её работы. Дальше идёт просто преобразование по правилам и ничего больше. Смысл данным (входным или выходным) придаёт наше сознание. Если бы наблюдаемый мир был совершенно не формализуем, как вы пишете, то у нас не было бы, скажем, цифровой фото- и видеосъёмки. Иначе как "ни в чём и никогда неформальные" картинки можно было бы оцифровать?

Далее вы пишете про ум человека, как формальную систему представлений о внешнем неформальном мире. Тут я начинаю немного терять нить. Возвращаясь к началу, в контексте компьютеров мы говорили о вычислимости и невычислимости, а формализация это другое.

Но всё как раз наоборот. Сознание не поддаётся полной формализации, а физический мир - поддаётся. Но нам это вообще не нужно в данном контексте. Мы формализовали компьютер и мы формализовали "математическое понимание" по Пенроузу - этого достаточно для проведения рассуждений.

Поищите у Пенроуза доказательства, что человек-математик действительно неформализуем, не является формальной системой.

Это не нужно для данного доказательства. Совсем наоборот, Пенроуз формализовал математическое понимание, но доказывает, что оно невычислимо.

Я утверждаю, что все представления человека, включая очень-очень примитивные и очень-очень сложные - это простая формальная система признаков и обобщений. Вы можете это хоть как-то опровергнуть? У Вас есть основания хоть как-то подвергнуть это сомнению?

Это не нужно подвергать сомнению. Даже если она формальна, это не значит, что она вычислима.

Можно идти дальше и говорить, что ощущения/квалиа на самом деле не формализуемы, но это совсем другой вопрос, выпадающий из того, о чём говорил Пенроуз.


PS. Ещё раз пролистал Пенроуза по поводу формальных систем - он там явно приравнивает формальные системы (Гёделевские) и алгоритмы как таковые (Тьюринговые). Это означает, что формализм эквивалентен алгоритмичности, но вычислимость - это не формализм, это применение формальных правил над формальным алфавитом. Смысл теоремы Гёделя как раз в том, что в непротиворечивой формальной системе есть невычислимые (недоказуемые) утверждения.

[Karadur]

Не совсем так. Нас интересуют невычислимые проблемы, доказательно разрешимые человеком.
Возьмем проблему останова. Не существует машины, которая устанавливает останов произвольного алгоритма. А существует ли такой человек? Это Пенроузом не доказано да и крайне маловероятно. Аналогично с другими невычислимыми.

Пенроуз и не пытается найти такого человека, это не нужно для доказательства. Если я правильно понимаю , там речь идёт о понимании самого доказательства о применимости.

[Won Soeng]

Karadur, давайте возьмемся за практическую сторону. Скажите, как по Вашему, является ли вычислением запись видео с камеры и микрофона? Является ли такая запись формализацией?

[Karadur]

Karadur, давайте возьмемся за практическую сторону. Скажите, как по Вашему, является ли вычислением запись видео с камеры и микрофона? Является ли такая запись формализацией?

Формализация идёт до вычисления. Сперва формализуем, потом вычисляем, используя свой формализм. В цифровой камере практически всё происходящее в самой камере вычислимо. Там буквально программы работают, полноценный фон-неймановский компьютер внутри.
Матрица камеры - это просто преобразователь сигнала (светового излучения в данные в памяти).
От начала и до конца в фото/видеокамере идёт просто преобразование сигнала. Там всё формализуемо и всё вычислимо.

Но камера сама по себе ничего не "видит". Там нет ничего, кроме преобразований, там нет зрительных ощущений, как у человека. В камере также нет понимания, что именно снято. У человека в глазных нервах и мозге происходят аналогичные по функциональности процессы, т.е. до какого-то этапа там тоже всё формализуемо и вычислимо. До этапа собственно восприятия картинки, где начинается часть "трудной проблемы".

[Won Soeng]

Вы не ответили на вопрос Я просто спросил Вас, можно ли сказать, что результат работы видеокамеры - видеопоток, каким-либо образом вычислить? Смоделировать?

Я сейчас не про зрительные ощущения. Я сейчас конкретно про вычислимость. Если уж хотите понять к чему я клоню - спросите. Я клоню к тому, что вычислимость не имеет значения. Так же, как и формализуемость.

Открытая вычислительная система не является вычислимой и формализуемое. В этом заключена ошибка Пенроуза. И Вы, как разработчик, должны это знать. Если, Вас, конечно, интересует компьютерная наука и Вы понимаете, в чем заключается чистая функция и почему реальные приложения не являются stateless.

[Won Soeng]

А что касается ощущения, то я знаю, как сделать алгоритм, который будет ощущать и понимать то, что видит, слышит, принимает с любого сенсора, и даже (внимание) то, что думает исключительно внутри себя.

Камера, конечно, не ощущает. И сейчас нет алгоритмов, которые бы это делали. Хотя мы близки к ним с машинным обучением на глубоких нейросетях. В глубинном обучении пока не хватает лишь применения существующих архитектур для динамического распознавания - это чисто технический вопрос.

Но для того, чтобы этот технический вопрос корректно поставить, нужно понимать, как работает человеческая психика. А как она работает прекрасно (хоть и зачастую непонятно) описано Буддой.

Пять совокупностей цепляния показывают "как". Форма, чувство, восприятие, порывы и сознание. Это необходимо так и смоделировать. Вам не понятно как? А мне - понятно.
12 звеньев возникновения и прекращения показывают "как". Вам не понятно - как? А мне - понятно.

[Денис Евгеньев]

Пенроуз и не пытается найти такого человека, это не нужно для доказательства.

Итак, у него нет доказательства.

[Karadur]

Итак, у него нет доказательства.

У него есть формальное доказательство, тут могу только отослать к его книгам. В Тенях Разума очень формально все расписано, и обычным, и математическим языком. Доказательство можно оспаривать, но не на таком уровне. У него там нет грубых ошибок по меньшей мере. Пенроуз является одним из крупнейших математиков и физиков современности, к нему на кривой козе не подъедешь. Если вы почитаете критику, там аргументация ведётся против более тонких предполагаемых пробелов.

[Karadur]

Я не понимаю, в какой момент открытая вычислительная система перестала быть формализуемой. Любая система работает по схеме входные данные -> преобразования по заданным правилам (программа) -> выходные данные или ошибка. Могут быть комбинации, параллельные или последовательные вычисления, вычисления, где на каждом шаге поступают новые данные - это ничего не меняет в плане неспособности компьютеров решать невычислимые задачи.

Результат работы камеры - видеопоток в виде, грубо говоря, битов в определённом протоколе, это и есть результат вычисления. входной сигнал в виде света и данных на матрице -> преобразование по правилам (вычисление) -> выходной поток.

Вы не ответили на вопрос Я просто спросил Вас, можно ли сказать, что результат работы видеокамеры - видеопоток, каким-либо образом вычислить? Смоделировать?

Я сейчас не про зрительные ощущения. Я сейчас конкретно про вычислимость. Если уж хотите понять к чему я клоню - спросите. Я клоню к тому, что вычислимость не имеет значения. Так же, как и формализуемость.

Открытая вычислительная система не является вычислимой и формализуемое. В этом заключена ошибка Пенроуза. И Вы, как разработчик, должны это знать. Если, Вас, конечно, интересует компьютерная наука и Вы понимаете, в чем заключается чистая функция и почему реальные приложения не являются stateless.

[Won Soeng]

Karadur, Вы понимаете, как данные управляют программой?

Психика человека в своей основе имеет очень-очень-очень примитивный алгоритм. Это алгоритм я условно называю "различение-обобщение".

Значение имеет не формальный и вычислимый алгоритм, который вполне конкретен (а не рассматриваемые Пенроузом "произвольные")

У Пенроуза ошибка не в том, что он доказывает. У него ошибка в предпосылках. Он просто доказывает кое-что не имеющее значения для моделирования психики и разработки ИИ. Я не критикую ни слова его доказательства - там все окей. Просто то, что он доказывает не имеет отношения к тому, как следует реализовать ИИ.

И его серьезная ошибка проистекает из уровня компьютерной науки 70-80 годов ХХ века.

Посмотрите на современные исследования. Посмотрите на функциональное программирование. Изучите вопрос, что такое "чистая функция". Изучите проблематику прикладной невозможности чистых stateless приложений.

Теперь скажите, только честно, Вы готовы всерьез и беспристрастно обсудить алгоритм, который добывает данные в точности так, как это делает психика любого живого (чувствующего) существа?

Если нет - больше не навязываюсь.

[Won Soeng]

Пока Вы ответите, я Вам подкину информацию к размышлению
1. Называть мир формализуемым - верх беспечности. Мир отнюдь не формализуем, а наличие обнаруженных людьми закономеностей не отражает всего этого мира. Как раз наши представления о мире - вполне себе формальны. Они определены формальным языком. Но то, что они формализуют - неформально и выходит за границы этих формальностей. Если Вы этого не понимаете, увы, Вам не понять ничего о психике, сознании и интеллекте - Вы просто зря теряете время.
2. Полагать реальные алгоритмы формальными можно лишь в части описания работы алгортма, не в части производимых алгоритмом результатов. Пенроуз допустил серьезную ошибку, рассматривая произвольные, но сугубо математические алгоритмы, не прикладные. Хотя он уже довольно много знал о теории управления и о системах управления, в том числе об автономных системах управления. Любая система управления открыта и она имеет реализацию чувства, восприятия и действия. В такую систему несложно добавить и осознание действия (завершенности этого действия, восприятие достижения запланированного результата или отклонения от него, планирование дальнейших действий в контексте этого запланированного результата). Вы владеете английским, почитайте статьи-отчеты о разработке системы управления гексаподом (модель насекомого-палочника). Вам подкинуть ссылку или найдете?

[Won Soeng]

Напоминаю ссылку на стаью, кстати.
http://open-mind.net/papers/mental-s...-consciousness

[Монферран]

А что касается ощущения, то я знаю, как сделать алгоритм, который будет ощущать и понимать то, что видит, слышит, принимает с любого сенсора, и даже (внимание) то, что думает исключительно внутри себя.

Камера, конечно, не ощущает. И сейчас нет алгоритмов, которые бы это делали. Хотя мы близки к ним с машинным обучением на глубоких нейросетях. В глубинном обучении пока не хватает лишь применения существующих архитектур для динамического распознавания - это чисто технический вопрос.

Но для того, чтобы этот технический вопрос корректно поставить, нужно понимать, как работает человеческая психика. А как она работает прекрасно (хоть и зачастую непонятно) описано Буддой.

Пять совокупностей цепляния показывают "как". Форма, чувство, восприятие, порывы и сознание. Это необходимо так и смоделировать. Вам не понятно как? А мне - понятно.
12 звеньев возникновения и прекращения показывают "как". Вам не понятно - как? А мне - понятно.

Вот есть обычный термометр. Когда он показывает минус 20, нетрудно запрограммировать ответ "мне холодно".
Допустим, уже есть ИИ, которому действительно бывает холодно.
Вопрос: как это проверить? Как сторонний человек может в это поверить, что механической штуке неуютно от холода?
Конечно, я не исключаю тот факт, что сам вопрос необходимо будет скорректировать.

[Won Soeng]

Вот есть обычный термометр. Когда он показывает минус 20, нетрудно запрограммировать ответ "мне холодно".
Допустим, уже есть ИИ, которому действительно бывает холодно.
Вопрос: как это проверить? Как сторонний человек может в это поверить, что механической штуке неуютно от холода?
Конечно, я не исключаю тот факт, что сам вопрос необходимо будет скорректировать.

Да, хороший вопрос об различении имитации от оригинала.
Но часто ли Вы на самом деле различаете, когда человеку холодно, а когда он об этом просто говорит? Например фраза "на улице холодно".

В этом нет, на самом деле, большой проблемы. Для проверки имитации достаточно спросить: "что Вы имеете в виду?" или "Что именно Вы ощущаете? Где Вы это ощущаете?" Ответом может быть - на градуснике -20 градусов цельсия. Или "у меня стынут кожа и мышцы".

Когда люди вспоминают об имитации, это происходит по причине неуверенности людей в том, что же они наблюдают. А эта неуверенность происходит от неумения распознавать актуальные признаки.

Когда люди говорят об имитации эмоций, имитации ощущений, имитации понимания - в этот момент люди не понимают, что же есть оригинал, каковы его убедительные критерии. Вот и вся сущность проблемы имитации.

[Монферран]

Подобный диалог, допустим, состоялся, но вопрос мой прежний: "кто ты, Ева, градусник прозрачный или девушка моей мечты?"

(два фильма с Авой и Евой в единый образ слились)

[Won Soeng]

Подобный диалог, допустим, состоялся, но вопрос мой прежний: "кто ты, Ева, градусник прозрачный или девушка моей мечты?"

(два фильма с Авой и Евой в единый образ слились)

Вы не можете различить? Не знаете как?
Задайте вопрос сами себе - Вы живете или имитируете жизнь? Как Вам ответить?