На этой неделе в "r/Futurology" [https://www.reddit.com/r/Futurology] бурлит тема AI, AGI и т.д. Под обсуждение также попал недавний пост Билла Гейтса об AI, этот пост многие СМИ переврали, в связи с чем пользователь с ником "brunski1" задал резонный и гневный вопрос со скрина выше.
НАРОД И БОСТРОМ.
Отвечу на вопрос со скрина - да, я читала этот пост Билла Гейтса (вот он, кстати, - https://www.gatesnotes.com/The-Age-of-AI-Has-Begun) и вот что я могу сказать.
В целом, Гейтс пишет очень много вещей уровня "Капитан Очевидность", а весь его пост явно рассчитан на "an average Joe", а не на прошаренных гиков. При этом не стоит забывать, что Гейтс, мягко говоря, не тупой, так как в этом же посте он упоминает Ника Бострома, а Бостром - это хороший, сложный аналитик. Я вернусь к теме раннего Ника Бострома далее по тексту.
ИНДИЯ.
В начале поста Гейтс странным образом пробалтывается о том, что он наводит AI-мосты в Индии - цитирую: "Eventually your main way of controlling a computer will no longer be pointing and clicking or tapping on menus and dialogue boxes. Instead, you’ll be able to write a request in plain English. (And not just English—AIs will understand languages from around the world. In India earlier this year, I met with developers who are working on AIs that will understand many of the languages spoken there.)".
ПОЗИТИВ.
В целом, заходит Гейтс с козырей, а именно со слезливого гуманистического посыла из серии "AI поможет наладить медицину в бедных странах", цитирую: "One of the Gates Foundation’s priorities in AI is to make sure these tools are used for the health problems that affect the poorest people in the world, including AIDS, TB, and malaria".
И дальше делает позитивные предсказания: AI будет создавать эффективные лекарства, прокачанные сельхоз-культуры/урожаи, изменит к лучшему систему образования.
РИСКИ И ПРОБЛЕМЫ.
А последний пункт выступления Гейтса - это как раз "Risks and problems with AI". Там Гейтс говорит, что AI ещё слишком туповат в понимании человеческих запросов, обработке математических моделей и абстракций, но - по предсказанию Гейтса - за 2 года программеры справятся с этими недостатками AI.
Другой риск - это: "the threat posed by humans armed with AI". Гейтс не развивает эту тему, поэтому неясно, что это. Террористы, милитари-шизики, преступные синдикаты? В целом, ежу понятно, что AI станет частью даркнета и прочей анти-законщины, поэтому здесь Гейтс ничего нового не сказал.
КОНТРОЛЬ.
И дальше Гейтс отвечает на столь пугающий обывателя вопрос из серии: "А может ли AI выйти из-под контроля?". Гейтс пишет, что эта проблема не носит сейчас срочного характера, волноваться пока нет повода. Возможно, проблема со взбесившимся AI появится в будущем, но решать её будут по мере наступления. А сейчас лучше думать о том, что AI - это будущее человечества. При этом говорит Гейтс уже не о просто AI, а о вот о таком супер-феномене: "Superintelligent AIs are in our future".
ЧИПЫ И УЛИТКИ.
Далее, кстати, следует нелестное сравнение уровня человек/чип/улитка - этот довод Гейтс использует в пользу того, что без AI человек будет как без рук: "Compared to a computer, our brains operate at a snail’s pace: An electrical signal in the brain moves at 1/100,000th the speed of the signal in a silicon chip!".
Продолжу тему чипов. Ещё одно предсказание Гейтса - это не просто чипы нового уровня, а чипы для простого народа: "innovative chips will allow you to run an AI on your own device".
Добавлю от себя, что у нас ведь с обычными чипами в 2000-ых то же самое произошло и теперь даже самый нищий житель Африки без проблем играет в Crysis на максимальных настройках в виртуальном шлеме за 6000 долларов с Amazon (это мой мрачный юмор, естественно!).
ЭЛИТЫ И БЕДНЯКИ.
И буквально через параграф Гейтс отвечает на популярный вопрос из серии: "А не получится ли так, что AI заграбастают элиты, а бедняки вообще ничего не получат?".
По мнению Гейтса, такой вариант возможен, поэтому Гейтс в посте продвигает нечто вроде идеи доброго коммунизма, при котором бедняки не должны остаться у разбитого корыта: "Second, market forces won’t naturally produce AI products and services that help the poorest. The opposite is more likely. With reliable funding and the right policies, governments and philanthropy can ensure that AIs are used to reduce inequity".
И в финале Гейтс высказывается оптимистично из серии: "наступила эра новых возможностей и траляля-ляляля". Как мы видим, панических идей типа угрозы популяции, не побоюсь этого слова, "hoomans", у Гейтса нет - наоборот, много неискреннего американского позитива.
МОЁ ЛИЧНОЕ ЗАКЛЮЧЕНИЕ (АНТИ-ПОЗИТИВ).
Искренне пост Гейтса не звучит по очень многим причинам и, в частности, по той простой причине, что Гейтс ссылается на книгу Ника Бострома. Я к Бострому хорошо отношусь и именно у Бострома есть забавная (ну, как забавная, хехехе, эсхатологическая) книга "Global Catastrophic Risks" 2008 года.
Это толстый труд, 600 страниц мелким шрифтом - его, естественно, мало кто читал. А зря, потому что там, например, есть вот такая красивая глава: "Super-volcanism and other geophysical processes of catastrophic import".
И вот такая: "Nanotechnology as global catastrophic risk".
И даже вот такая: "A risk management framework for de novo DNA synthesis technologies".
Невротикам и паникёрам эту книгу лучше не читать, но суть в том, что угроз сейчас море и когда науч-поп-пресса раздувает какой-нибудь лёгкий для усвоения junk-food из серии "AI угрожает человечеству", то это выглядит глупо и однобоко.
Гейтс в своём посте рекомендует книгу "Superintelligence" by Nick Bostrom, но я всё-таки рекомендую обратить внимание на раннего Бострома и книгу "Global Catastrophic Risks", так как там представлена более широкая картина рисков.
