Эксперт Microsoft: «Искусственный интеллект может стать настоящей мечтой для фашистов»

По мере развития искусственный интеллект становится все более доступным инструментом для авторитарных режимов, которые с помощью технологий могут притеснять определенные группы граждан. Об этом рассказала исследовательница Microsoft Research Кейт Кроуфорд на фестивале SXSW.

Расцвет искусственного интеллекта пришелся на период расцвета ультранационализма, правого авторитаризма и фашизма, отметила Кроуфорд во время своей презентации «Темные дни: искусственный интеллект и подъем фашизма». Исследовательница подчеркнула, что для таких режимов характерна централизация власти, слежка за населением, демонизация чужаков и претензия на авторитет и нейтралитет. Машинное обучение помогает политикам добиваться поставленных целей.

Искусственный интеллект не может считаться нейтральным до тех пор, пока разработчики закладывают в него свои предрассудки. Кроуфорд привела в пример алгоритм, разработанный китайскими учеными, который якобы непредвзято определяет преступников по чертам лица. «Нужно с подозрением относиться к любым системам на базе машинного обучения, которые позиционируются как непредвзятые, но при этом основываются на данных, сгенерированных людьми», — цитирует эксперта The Guardian.

Китайский алгоритм, как оказалось, относил к преступникам обладателей нетипичных черт лица. По мнению Кроуфорд, это пугающая тенденция, которая напоминает о том, как в прошлом френологию использовали для оправдания рабовладения и преследования евреев.

Другой пример алгоритма-дискриминатора — это платформа Faceception, которая определяет характер по внешности. Разработчики системы не скрывают, что программа считает людей с ближневосточной внешностью и бородой террористами.

Инструментом дискриминации становятся не только алгоритмы, но и реестры, которые и раньше использовались для преследования представителей различных национальностей. Реестр мусульман предлагал создать президент США Дональд Трамп. «Ничего создавать не надо — Facebook уже стал мусульманским реестром», — заметила Кроуфорд. Исследования показывают, что соцсеть определяет религиозные взгляды человека по его лайкам с точностью 82%.

Системы прогнозирования преступлений также не лишены предрассудков. Они не снижают уровень преступности, но чаще преследуют тех, кто живет в опасных районах.
Об использовании алгоритмов в политических целях говорят все чаще. Через несколько лет, по прогнозам исследовательницы, политики без особых усилий смогут управлять взглядами электората. «Это мечта фашиста. Власть без какого-либо контроля», — отметила Кроуфорд.

Представительница Microsoft Research создала сообщество AI Now, которое будет бороться за прозрачность и отчетность алгоритмов на базе искусственного интеллекта. К этому призывает не только КейтКроуфорд, но британский учёный и создатель Всемирной паутины Тим Бернерс-Ли. Он считает, что люди должны вернуть себе контроль над данными и не давать доступ к личной информации правительству, которое ограничивает свободу слова своих граждан.

Китай начнёт разработку имитирующего мозг искусственного интеллекта

Первая лаборатория искусственного интеллекта, в которой займутся имитацией человеческого мозга, уже открылась в провинции Аньхой, — пишет ChinaDaily со ссылкой на пресс-службу Китайского университета науки и технологий.
В разработке принимают участие специалисты Китайского университета науки и технологий, Фуданьского университета и Шеньяньского института автоматизации. Помогать им будут специалисты компании Baidu.
Ван Лицзюнь, президент Китайского университета технологий и глава лаборатории по совместительству, считает, что несмотря на имеющиеся в этой области наработки, разработчики искусственного  интеллекта находятся в самом начале пути. По его словам, разработка нейросетей, имитирующих мозговую деятельность человека, поможет лучше понять искусственный интеллект и определить векторы его развития, ведь сейчас ИИ никак не сможет тягаться с мозгом.
Учёные давно работают над тем, чтобы сделать искусственный интеллект умнее, но для того, чтобы он дорос хотя бы до уровня крысы, должно пройти ещё много времени.

Искусственный интеллект спасёт зерновые культуры

Многоотраслевая транснациональная компания Monsanto является мировым лидером в области биотехнологии растений. Её специалисты на протяжении десятилетий работают над тем, чтобы создать новые генетически модифицированные растения, способные выжить практически в любых условиях и которым не страшны вирусы и опасные вредители. Для достижения своих целей Monsanto часто прибегает к самым передовым технологиям. Например, недавно стало известно, что она объединит усилия с одним из лидеров в области разработки искусственного интеллекта – компанией Atomwise.

Искусственный интеллект поможет учёным Monsanto быстро и эффективно обнаружить молекулы, способные защитить зерновые культуры от различных заболеваний и насекомых. Вместо того чтобы перебирать бесчисленное количество молекул одну за другой, нейронная сеть, созданная специалистами Atomwise, использует глубокое машинное обучение, чтобы исключить большинство вариантов и оставить лишь тех кандидатов, которые будут обладать желаемым эффектом. Подобный подход к решению проблемы позволит сэкономить компании Monsanto огромное количество времени и средств. Ведь, как правило, разработка эффективной защиты для зерновой культуры занимает около 11 лет. А стоимость подобных проектов превышает четверть миллиарда долларов.

Использование в исследованиях искусственного интеллекта не только позволит ускорить очень длительный процесс и принести Monsanto дополнительную прибыль, но и предсказать возможные побочные эффекты от использования созданных средств обработки посевов. Ведь важно не только спасти урожай, но и не навредить окружающей среде, насекомым, которые не представляют опасности для зерновых культур, а также почве.

В чем сходство искусственного интеллекта и электричества?

Что первым приходит в голову, когда вы слышите «искусственный интеллект»? Воспитанные на нескольких поколениях голливудских фильмах, мы часто задумываемся о «злобных роботах и всезнающих компьютерах, которые жаждут уничтожить человечество». Но искусственный интеллект уже играет активную роль в нашей повседневной жизни, и его возможности будут только увеличиваться с этого момента. Чтобы облегчить беспокойство, которое будет сопровождать приход искусственного интеллекта в наш мир, редактор Wired Кевин Келли предложил нам изменить свое мышление и отношение к искусственному интеллекту.
Келли думает, что слово «интеллект» приняло на себя чрезмерный багаж, в том числе и несколько негативный оттенок. Если оно используется безотносительно разума человека, слово «интеллект» (intelligence) неизбежно ассоциируется со шпионажем, секретной информацией или вторжением в частную жизнь.

Поскольку область применения искусственного интеллекта выходит далеко за пределы этого, а мы, возможно, уже не в состоянии внедрить новые определения для старых слов, почему бы не использовать вместо этого новые слова?

Слово, которое предлагает использовать Келли, это наделение способностью к познанию, «когнификация» — cognification — и он использует его для описания «умных» вещей.
На текущий момент не так много вещей были когнифицированы: телефоны, автомобили, термостаты, телевизоры, но вместе с ними грядут и другие. Но в будущем, говорит Келли, все, что уже было электрифицировано, будет и когнифицировано. Умные дома? Умные офисы? Умные города? Нужно только подождать.

Когнификацию вещей можно рассматривать аналогично электрификации вещей, которая произошла во время промышленной революции.
Промышленная революция осуществила крупномасштабный переход от сельскохозяйственного мира — где все, что было сделано, было сделано силой мышц — к механизированному миру, где искусственную силу практически всем вещам придал бензин, паровые двигатели и электричество. Мы создали энергосеть, чтобы распределять эту энергию, иметь к ней доступ по требованию в любое время и в любом месте, и все, что требовало бы применения естественной силы, можно было осуществить с помощью искусственной силы.

Передвижение и транспорт, среди прочего, существенно выросли за счет этой новой силы. Келли приводит пример автомобиля, который прост, но убедителен: вы вызываете силу 250 лошадей, просто поворачивая ключ. Нажмите ногой на педаль газа — и ваше транспортное средство будет двигаться со скоростью 100 километров в час, что было немыслимо для тех времен, когда все, что мы делали, мы делали голыми руками.
Следующий шаг — это взять тот самый автомобиль, который уже имеет искусственную силу 250 лошадей, и добавить силу 250 искусственных умов. Результат? Самоуправляемые автомобили, которые могут не только быстро ехать, но и принимать самостоятельные решения, доставлять нас в пункты назначения и снижать риск фатальных инцидентов.

По мнению Келли, сейчас мы стоим на пороге другой промышленной революции. По мере того как она разворачивается, мы будем брать все, что раньше электрифицировали, и будем все это когнифицировать.
Представляя жизнь до промышленной революции, мы удивляемся, как вообще можно было жить без электричества. Мы думаем, как хорошо, что сегодня у нас есть свет, самолеты и электронная почта. Хорошо, что мы перестали пользоваться свечами, ездить на каретах и писать письма от руки. Впрочем, это не избавляет нас от ностальгии по этим простым вещам.

Что будут думать люди через 200 лет? Как только все будет познано, а мир станет одним большим умным пузырем, люди будут скучать по «более простым временам», в которых мы живем сейчас, но при этом удивляться: как же мы жили без вездесущего искусственного интеллекта?

Канада вложит миллионы в покупку специалистов в области искусственного интеллекта

Правительство Канады выделило $125 млн на новые исследовательские проекты в сфере искусственного интеллекта, а также на привлечение выдающихся иностранных специалистов в рамках Национальной стратегии по развитию искусственного интеллекта.

Новая программа была объявлена в ходе представления федерального бюджета Канады на 2017 год. Распоряжаться средствами, направленными на развитие искусственного интеллекта, будет Канадский институт перспективных исследований (CIFAR), которому правительство дополнительно выделило $35 млн на ближайшие пять лет, сообщает издание NewsWire.

«Научный успех Канады в изучении искусственного интеллекта — это пример того, как инвестиции в фундаментальные исследования создают огромный потенциал для инноваций. — говорит Алан Бернштейн, президент и гендиректор CIFAR. — Искусственный интеллект — фундаментальная технология, которая пронизывает все секторы экономики и помогает улучшить жизнь людей. Новая программа позволяет Канаде оставаться в числе лидеров в этой сфере и дает нам шанс укрепить свои позиции».

Согласно данным японской исследовательской компании Astamuse, по количеству патентов в сфере искусственного интеллекта за последние пять лет лидируют США: за это время в стране зарегистрировали 15 317 патентов в области искусственного интеллекта. Однако быстрее всего этот показатель растет в Китае — число китайских патентов в области искусственного интеллекта выросло на 190% за данный период (рост количества патентов в США составил только 26%).