Повстання машин чи нехлюйство людей?

Технологічний світ збентежила курйозна (на перший погляд) новина про те, що у США автомобіль Tesla Т-934 зі штучним інтелектом без відома розробників зареєструвався у сервісі таксі та у вільні від випробувань години самостійно заробляв гроші.

Такі дії поліція та суд вбачили незаконними та оштрафували компанію Tesla на $ 5 тисяч.

Хочу підкреслити, що штучний інтелект без втручання людини "вирішив", що і як варто зробити, тобто розрахував алгоритм причинно-наслідкових зв’яків, дій та обрав шлях до створення певного процесу.

Як зазначив головний інженер компанії Роберт Кінг, розробники навчили нейромережу проводити реальних водіїв на дорогах. А нейромережа сама "збагнула", що таким чином можна заробляти гроші.

Звісно, в цьому є щось фаталістичне. Адже, знову ж таки на перший погляд, чомусь американська нейромережа не "збагнула", як можна краще та якісніше допомагати людям, а "вирішила" заробляти гроші. Ось саме це і злякало противників штучного інтелекту. Мовляв, "рОботи" без відома людей відберуть робочі місця, потім почнуть знищувати людство і все в дусі фільмів про "термінатора".

Проте не все так апокаліптично. Принаймні з цим штучним інтелектом. Я, звісно, припускаю, що в розробках закралася якась помилка чи алгоритм спрацював в хибній з точки зору людини логіці. Переконаний, що заробляння грошей, – то не було метою нейромережі, адже навряд чи розробники закладали в основу алгоритмів – ціннісні характеристики грошових одиниць, сутність накопичення капіталу та способи збагачення. Швидше за все нейромережа "вирішила", що найбільше користі з неї буде там, де люди найчастіше використовують автомобілі у найрізноманітніших парадигмах. А заробіток – то просто невід’ємна частина алгоритмів сервісу таксі, від якої штучний інтелект не мав жодного зиску.

Проте є моменти, які справді насторожують. І це – безконтрольність штучного інтелекту з боку розробників навіть на такому примітивному рівні, як послуги навігації. Добре, що наразі не йдеться про якусь шкоду для суспільства, чи щось більш жахливе. Але втрачений контроль – це серйозна помилка. І, на моє переконання, американським поборникам закону варто було штрафувати розробників ШІ не за незаконне збагачення, а за безвідповідальність чи нехлюйство (якщо у законах США є така рамка).

Знову ж таки – наразі це нехлюйство не призвело до трагедії. Але будь-яка безконтрольність чи безвідповідальність людини у роботі з будь-якими складними механізмами чи технологіями, – неодмінно призводить до трагічного фіналу. Чи то на будівництві, чи в цеху, чи за клавіатурою комп’ютера, який керує чимось.

Саме тому, друзі, "страшне повстання машин", – це в першу чергу нехлюйство з боку людей. Адже у будь-якого, навіть найрозвиненішого штучного інтелекту зі здатністю самонавчання, є творець. І цей творець – людина. І обмеження та алгоритми роботи ШІ – також регламентовані людиною, зрештою, як і способи контролю. Ви ж не говорите про повстання машин, коли ламається пилосос, бо ви перевищили потужність чи заблокували сопло, коли ламається двигун автівки, бо ви залили не те пальне, і так далі. Людський фактор є основним і вся відповідальність лежатиме саме на людях.

Разом з усім вищезазначеним хочу нагадати, що світові лідери у розробці штучного інтелекту вже погодилися з тим, що жодна нейромережа не замінить людину, а жоден робот не відбере робоче місце у людини там, де потрібен найпотужніший та найкращий комп’ютер всіх часів – людський мозок. Адже не можна навчити ШІ виконувати завдання, спираючись на два важливих принципи – інтуїцію та творчий підхід. Не можна прописати алгоритм творчого підходу до вирішення певних завдань, не можна навчити нейромережу інтуїтивно реагувати на події чи обставини і знову ж таки творчо виконувати завдання.

Тому випадок, з якого починався допис, радше виняток. І це – не повстання машин, а недбалість у підходах до вирішення питання функціоналу. Тобто якщо ви не знаєте про те, що впадете , бо пиляєте гілку, на якій сидите, то ви й надалі пилятимете цю гілку. А потім звинуватите у всьому ту електропилку, якою пиляли, мовляв, дуже швидко відпиляла, і я не встиг приготуватися до падіння.