Керівник відділу комунікацій компанії збирав рецензії на книги, які допоможуть відповісти на ці питання і розібратися, як жити і діяти в 2021 році.
5) «Сумісність: як контролювати штучний інтелект», Стюарт Рассел
Стюарт Рассел - професор комп'ютерних наук в Каліфорнійському університеті в Берклі, директор Центру сумісного з людиною штучного інтелекту (Center for Human-Compatible Artificial Intelligence). В академічному світі Рассел відомий канонічним навчальним посібником «Штучний інтелект. Сучасний підхід »(« Artificial Intelligence: A Modern Approach »), написаним спільно з Пітером Норвіга. Посібник було вперше видано в 1995 році і з того моменту пережило чотири перевидання.
«Сумісність» - це книга про проблему контролю. Рассел призводить досить аларміські аргументи про роботопокаліпсіс. Автор бачить дві основні проблеми в розвитку штучного інтелекту. Перша - «проблема горили». Автор вважає, що в тому вигляді, в якому машини створені зараз, ІІ може отримати контроль над людьми. Після цього, в кращому випадку, - тримати нас в якості домашніх тварин. А в гіршому - створити вороже оточення, поступово приводячи нас до зникнення (подібно до того, що зробили люди з горилами). Ще одна проблема - «проблема Мідаса». Згідно Расселу, машина вирішить проблему, якою б складною вона не була. Але машинне рішення, якщо цінності людини і машини не співзвучні, може бути шкідливим для творців.
Для того щоб вирішити ці проблеми, Рассел пропонує наступні принципи створення штучного інтелекту. Єдиною метою машини повинна бути максимальна реалізація людських переваг. При цьому машина повинна бути спочатку не впевнена, які саме ці переваги. А фінальним джерелом інформації про людські вподобання стає людську поведінку. Машини повинні вчитися тому, чого хочуть люди, спостерігаючи за їхніми діями.
6) «Наглядовий капіталізм», Шошана Зубофф
Ми живемо в економіці, невід'ємна складова якої - нагляд за її учасниками в формі постійного збору даних, впевнена автор книги Шошана Зубофф. Згідно з її точки зору, в 2000-х роках в Google усвідомили важливість для користувача даних, які можна використовувати не тільки для поліпшення користувацького досвіду, а й для продажу реклами. Безперебійний потік товарів і послуг в наших соціальних мережах, на думку Зубофф, загрожує людську свободу і автономію. Через збір, володіння і аналітику даних про призначеному для користувача поведінці компанії Кремнієвої долини майже непомітно для громадян впливають на їх поведінку, впливаючи як на вибір повсякденних товарів, так і кандидата на виборах.
Бізнес-модель наглядового капіталізму дозволяє «безкоштовним» сервісів дійсно не передавати ваші дані третім особам. Суть не в тому, щоб дати всім Excel-таблицю з усіма зображеннями, які ви подивилися довше секунди. Суть в тому, щоб на основі ваших дій створити предсказательную модель того, на що ви клацніть, а на що ні. І вже ці дані продати рекламодавцям. Це не ваші персональні дані. Все агрегируются, ваш профіль - це просто одиниця в категорії «любителі серіалів». Тому важливо дивитися на умови використання саме через призму того, як обережно сервіси описують, для чого саме вони будуть використовувати ваші поведінкові дані.
