Одна із реальних проблем, що назріває серед сучасного людства і яка насправді змінює світ – є тотальний цифровий контроль над нашим життям за допомогою Штучного Інтелекту. Зараз контроль досить неоднорідний – десь, як в Китаї, в нього вкладають десятки млрд доларів та млн людино-годин, а десь про нього навіть і не чули, продовжуючи, як століття тому, пасти кіз та вирізати клітори у дівчат заради віри предків.
Ми скоріше, як і весь західний світ, стоїмо десь посередині, піддаючись поки що контролю лише з боку корпорацій, які, відслідковуючи нашу активність в глобальній мережі, хочуть продавати нам смартфони та жіночі піжами з відкритими дупами.
Техно-оптимісти заспокоюють техно-параноїків фактами, що сучасний Штучний Інтелект лише здатний розпізнавати завантажені в нього зразки та шаблони, але що він розпізнає та що з цим робити, він поняття не має.Приблизно, як наш Володимир-Зелене Сонечко з владою, яка впала йому до рук за допомогою олігархічного консенсусу.
Штучний Інтелект, наприклад, з точністю зафіксує, хто зробив протиправні дії на несакціонованій демонстрації та які засоби при цьому були використані, але на цьому його компетентність закінчується.
На заході поки що лише фіксують, а от в Китаї за діло беруться тисячі аналітиків, що, аналізуючи отриману інформацію, приймають рішення про покарання або заохочення.
Так і жили… до недавнього часу.
Розробники з Amazon створили системи, що не тільки фіксують дії людей, а й розпізнають їх.
Причому не лише потенційно небезпечні дії, як то напад на поліцію під час бунтів, але і взагалі будь-що – розпивали водочку там, де не можна, або справили нужду в недозволеному місці.
Ця система, хай поки що лише лабораторна, в змозі розв’язувати проблему автоматизованого пошуку “потенційних правопорушників”.
Але Китай не був би Китаєм, якби не “скомуниздив” цю технологію, причому в Піднебесній нові системи вже працюють не у лабораторії, а одразу у промисловості.
На замовлення великого девелопера шанхайський науково-дослідний інститут розробив систему соціального контролю поведінки в ліфтах у реальному часі.
Система автоматично виявляє будь-яку “ненормальну активність” у ліфтах – тобто якщо люди роблять щось не те, що зазвичай робиться в ліфтах. Це може бути що-небудь: торгівля наркотиками, проституція, сексуальне домагання, хуліганство. Або навіть не небезпечну, а просто підозрілу активність – наприклад, занадто багато людей проживає на якомусь поверсі (привіт незаконним хостелам у київських багатоповерхівках)
В цей час система розгорнута і тестується у тисячах ліфтів. Замовник не натішиться, адже система “стукає” на жителів вельми креативно. Наприклад, була виявлена заборонена в жилих будинках служба громадського харчування.
Отже, тепер можлива автоматична ідентифікація відхилень від соціальних норм.– і це дуже перспективно для авторитарних режимів, яким і є сучасний Китай.
І ось саме тут на сцену виходить Джеремі Бентам, англійський філософ і соціальний теоретик, зі своїм проєктом Panopticon – різновидом “ідеальної тюремної будівлі”. Концепція розробки полягає в тому, що наглядач має можливість спостереження за всіма ув’язненими, в той час, як ув’язнені не мають можливості з’ясувати, чи ведеться за ними спостереження.
Новітні технології роблять роздуми філософа з далекого минуло реальністю — вони забезпечать для влади повний контроль соціальної реальності, залишаючи владу для суспільства невидимою. Такий собі “самопідтримуючий” та “природній” авторитаризм.
І якщо це вдасться, досить скоро ми втратимо не тільки свободу слова та зборів, а й свободи дій та вибору. І все це добровільно, під крики прихильників влади. Тільки десь правлячий клас буде ніби захищати “скрєпи” або столітні традиції кочівників на верблюдах, а десь буде перейматися захистом “меншин” та соціально-вразливих груп.
Думаю, не правий був поет, що “Жить в эту пору прекрасную. Уж не придется — ни мне, ни тебе.”
Це наше можливе майбутнє, лише невідомо, буде це Старший Брат Орвелла чи “Дивний новий світ” Олдоса Хакслі.
І шапочка з фольги техно-параноїкам абсолютно не допоможе, лише корпорації будуть показувати їм контекстну рекламу, де продається найбільш екологічна та стильна фольга.
facebook.com
Джерело: «Українська літературна газета»