Следующий вопрос, возникающий при анализе  возможных последствий создания и функционирования систем искусственного интеллекта, — что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

    Несмотря  на перечисленные проблемы, три Закона Роботехники являются хорошим неформальным базисом проверки надежности системы безопасности для систем ИИ:

• робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
• робот должен повиноваться всем приказам, которые ему дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону;
• робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Закону.

    И теперь осталась еще одна тема: стоит  ли вообще создавать ИИ, не лучше  ли закрыть все работы в этой области? Единственное, что можно сказать по этому поводу: если ИИ в принципе возможен — рано или поздно он будет создан. И лучше двигаться к цели под контролем общественности, с тщательной проработкой вопросов безопасности, нежели все пускать на самотек. Иначе лет через сто (если к тому времени человечество себя не уничтожит) ИИ создаст какой-нибудь программист-механик-самоучка, использующий достижения современной ему техники. С другой стороны, с проектированием систем ИИ сложилась ситуация, которая роднит его с коммунизмом — изучается то, чего еще нет. И если этого не будет в течение ближайших 100–150 лет, то очень может быть, что эпоха ИИ закончится сама собой.

              1.3 Моделирование  систем ИИ

 

    _И

сторически  сложились три основных направления  в моделировании ИИ. В рамках первого подхода изучаются прежде всего структура и механизмы работы мозга человека, а конечная цель заключается в раскрытии тайн мышления. Необходимыми этапами исследований в этом направлении являются построение моделей на основе психофизиологических данных, проведение экспериментов с ними, выдвижение новых гипотез о механизмах интеллектуальной деятельности, совершенствование моделей и т. д.

    Второй  подход в качестве объекта исследования рассматривает ИИ. Здесь речь идет о моделировании интеллектуальной деятельности с помощью вычислительных машин. А цель работ — создание алгоритмического и программного обеспечения вычислительных машин, позволяющих решать интеллектуальные задачи не хуже человека.

    Наконец, третий подход ориентирован на создание смешанных человеко-машинных (интерактивных) интеллектуальных систем, на симбиоз возможностей естественного и искусственного интеллекта. Важнейшими проблемами в этих исследованиях являются оптимальное распределение функций между естественным и искусственным интеллектом и организация диалога между человеком и машиной.

    В 1957 году американский физиолог Ф. Розенблатт предложил модель зрительного восприятия и распознавания — перцептрон.⁵ Машина, способная обучаться понятиям и распознавать предъявляемые объекты, чрезвычайно заинтересовала не только физиологов, но и представителей других областей знаний и породила большой поток теоретических и экспериментальных исследований.

    Перцептрон или любая программа, имитирующая процесс распознавания, работают в двух режимах: в режиме обучения и в режиме распознавания. В режиме обучения некто (человек, машина, робот или природа), играющий роль учителя, предъявляет машине объекты и о каждом их них сообщает, к какому понятию (классу) он принадлежит. По этим данным строится решающее правило, являющееся, по существу, формальным описанием понятий. В режиме распознавания машине предъявляются новые объекты (вообще говоря, отличные от ранее предъявленных), и она должна их классифицировать по возможности правильно.

              1.4 Нейронные сети

 

    _В

 последние  десятилетия в мире бурно развивается  новая прикладная область математики, специализирующаяся на искусственных нейронных сетях (НС). Актуальность исследований в этом направлении подтверждается массой различных применений НС: автоматизация процессов распознавания образов и адаптивное управление, аппроксимация функционалов и прогнозирование, создание экспертных систем и организация ассоциативной памяти и многое, многое другое. С помощью НС можно, например, предсказывать показатели биржевого рынка, распознавать оптические или звуковые сигналы, строить самообучающиеся системы, способные управлять автомашиной при парковке или синтезировать речь по тексту. На Западе нейронные сети применяются уже довольно широко, у нас же это пока еще экзотика — российские фирмы, использующие НС в практических целях, наперечет⁶.

    Широкий круг задач, решаемый НС, не позволяет  в настоящее время создавать  универсальные, мощные сети, вынуждая разрабатывать специализированные НС, функционирующие по различным алгоритмам.

    Модели  НС могут быть программными и аппаратными. Несмотря на существенные различия, отдельные типы НС обладают несколькими общими чертами.

 

    

 
 

 

    

    Во-первых, основу каждой нейронной сети составляют относительно простые, в большинстве  случаев — однотипные, элементы (ячейки), имитирующие работу нейронов мозга. Под нейроном здесь подразумевается искусственный нейрон, то есть ячейка НС. Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Он имеет группу синапсов — однонаправленных входных связей, соединенных с выходами других нейронов, а также аксон — выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Общий вид нейрона приведен на рис. 1. Каждый синапс характеризуется величиной синаптической связи или ее весом wi, который по физическому смыслу эквивалентен электрической проводимости.

    В качестве примера простейшей НС можно привести схему трехнейронного перцептрона (рис. 2). Нейроны данной сети имеют активационную функцию в виде единичного скачка. На n входов поступают некие сигналы, проходящие по синапсам на три нейрона, которые образуют единственный слой этой НС и выдают три выходных сигнала.

    Очевидно, что процесс функционирования НС, то есть сущность действий, которые она способна выполнять, зависит от величин синаптических связей, поэтому, задавшись определенной структурой НС, отвечающей какой-либо задаче, разработчик сети должен найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными).

    Этот  этап называется обучением НС, и  от того, насколько качественно он выполнен, зависит способность сети решать поставленные перед ней проблемы во время эксплуатации. На этапе обучения, кроме параметра качества подбора весов, важную роль играет время обучения. Как правило, эти два параметра связаны обратной зависимостью, и выбирая их, приходится идти на компромисс. Обучение НС может вестись с учителем или без него. В первом случае сети предъявляются значения как входных, так и желательных выходных сигналов, и она по некоторому внутреннему алгоритму подстраивает веса своих синаптических связей. Во втором случае выходы НС формируются самостоятельно, а веса изменяются по алгоритму, учитывающему только входные и производные от них сигналы.

    Существует  великое множество алгоритмов обучения, которые, однако, делятся на два больших  класса: детерминистские и стохастические. В первом подстройка весов представляет собой жесткую последовательность действий, во втором – она производится на основе действий, подчиняющихся некоторому случайному процессу.

              1.5 Экспертные системы на основе ИИ

 

    _Н

о пока теоретики спорят, практики не сидят  сложа руки! Искусственный интеллект приобрел полезные рыночные свойства. Рынок нейросетей могуч; банкиры уважают своих технических аналитиков, а те без нейросети — ни шагу. Где нейросеть — там и генетический алгоритм, где генетический алгоритм — там и искусственная жизнь. Девиз всей этой деятельности — четкая формула одного сурового персонажа братьев Стругацких: «Нам известно, что задача не имеет решения, — мы хотим знать, как ее решать!»

    Экспертные  системы (ЭС) — широчайшая и сложнейшая дисциплина. Существует следующее определения: экспертная система — это программа (на современном уровне развития технологий), которая заменяет эксперта в той или иной области.

    Отсюда  вытекает простой вывод: все, что  рассматривалось нами выше относительно систем с ИИ, своей конечной целью  ставит разработку ЭС.

    ЭС  предназначены, главным образом, для  решения практических задач, возникающих  в слабо структурированной и  трудно формализуемой предметной области. ЭС были первыми системами, которые привлекли внимание потенциальных потребителей продукции ИИ. С ЭС связаны некоторые распространенные заблуждения.

    Заблуждение первое: ЭС будет делать не более (а  скорее даже менее) того, что может эксперт, создавший данную систему. Для опровержения данного постулата можно построить самообучающуюся ЭС в области, в которой вообще нет экспертов, либо объединить в одной ЭС знания нескольких экспертов и получить систему, которая может то, на что не способен ни один из ее создателей.

    Заблуждение второе: ЭС никогда не заменят человека-эксперта. Уже заменяют, иначе зачем бы их создавали?

    В качестве примера можно привестиважнейшие экспертные системы, использующие алгоритмы ИИ:

• MICIN — экспертная система для медицинской диагностики. Разработана группой по инфекционным заболеваниям Стенфордского университета. Ставит диагноз, исходя из сообщенных ей симптомов, и рекомендует курс медикаментозного лечения любой из диагностированных инфекций. База данных состоит из 450 правил;
• PUFF — анализирует нарушения дыхания. Эта система представляет собой MICIN, из которой удалили данные по инфекциям и вложили данные о легочных заболеваниях;
• DENDRAL — служит для распознавания химических структур. Старейшая, из экспертных систем. Ее первые версии появились еще в 1965 году все в том же Стенфордском университете. Пользователь вводит в систему некоторую информацию о веществе, а также данные спектрометрии (инфракрасной, ядерного магнитного резонанса и масс-спектрометрии), и та, в свою очередь, называет химическую структуру, удовлетворяющую этим условиям;
• PROSPECTOR — экспертная система, созданная для содействия поиску месторождений полезных ископаемых, разработка которых коммерчески выгодна.

              Глава 2. Различные подходы к построению систем ИИ

              2.1 Логический подход

 

    _С

уществуют различные подходы к построению систем ИИ. Это разделение не является историческим, когда одно мнение постепенно сменяет другое, и различные подходы существуют и сейчас. Кроме того, поскольку по-настоящему полных систем ИИ в настоящее время нет, то нельзя сказать, что какой-то подход является правильным, а какой-то ошибочным.

    Логический  подход. Почему он возник? Ведь человек занимается отнюдь не только логическими измышлениями. Это высказывание конечно верно, но именно способность к логическому мышлению очень сильно отличает человека от животных.

    Основой для данного подхода служит Булева алгебра. Каждый программист знаком с нею и с логическими операторами с тех пор, когда он осваивал оператор IF. Свое дальнейшее развитие Булева алгебра получила в виде исчисления предикатов, в котором она расширена за счет введения предметных символов, отношений между ними, кванторов существования и всеобщности. Практически каждая система ИИ, построенная на логическом принципе, представляет собой машину доказательства теорем. При этом исходные данные хранятся в базе данных в виде аксиом, правила логического вывода как отношения между ними. Кроме того, каждая такая машина имеет блок генерации цели, и система вывода пытается доказать данную цель как теорему.

    Если  цель доказана, то трассировка примененных  правил позволяет получить цепочку действий, необходимых для реализации поставленной цели. Мощность такой системы определяется возможностями генератора целей и машиной доказательства теорем.

    Конечно, можно сказать, что выразительности алгебры высказываний не хватит для полноценной реализации ИИ, но стоит вспомнить, что основой всех существующих ЭВМ является бит — ячейка памяти, которая может принимать значения только 0 и 1. Таким образом, было бы логично предположить, что все, что возможно реализовать на ЭВМ, можно было бы реализовать и в виде логики предикатов. Хотя здесь ничего не говорится о том, за какое время.

    Добиться  большей выразительности логическому  подходу позволяет такое сравнительно новое направление, как нечеткая логика. Основным ее отличием является то, что правдивость высказывания может принимать в ней кроме «да/нет» (1/0) еще и про межуточные значения — «не знаю» (0.5), «пациент скорее жив, чем мертв» (0.75), «пациент скорее мертв, чем жив» (0.25). Данный подход больше похож на мышление человека, поскольку он на вопросы редко отвечает только да или нет. Хотя на экзамене будут приниматься только ответы из разряда классической булевой алгебры.