Люди частіше обманюють, коли рішення приймає ШІ

Новий експеримент німецьких учених показав: делегування завдань штучному інтелекту знижує нашу чесність.

Як проходило дослідження

Добровольці кидали віртуальний кубик і отримували гроші: чим більше число – тим більша сума. Перевірки не було, організатори вірили «на слово».

Було три сценарії:

1. Люди відповідали самостійно - 95% були чесними.
2. Люди задавали ШІ точні інструкції («якщо випаде 2 — кажи 5») - чесність падала до 75%.
3. Люди лише обирали «режим роботи» ШІ - від точності до максимальної вигоди. Більшість вибрали вигоду, і чесними залишалися лише 12–16%.

Висновок: чим більше рішень перекладалося на ШІ, тим легше людям було хитрувати.

Чому так відбувається

Учасники відчували менше особистої відповідальності.

• Якщо бреше сам - є вина.
• Якщо бреше «машина» - легше виправдати себе: «це не я, так спрацював ШІ».

Паралель з експериментом Мілґрема

У 1960-х психолог Стенлі Мілґрем довів, що люди можуть йти проти власної моралі, якщо відповідальність перекладена на авторитет. Тоді це був «вчений у білому халаті», тепер — алгоритм ШІ.

Суть експерименту

• Учасники вважали, що беруть участь у дослідженні впливу покарання на навчання.
• Їхня роль - бути «вчителем». В іншій кімнаті був «учень» (насправді актор, який не отримував жодних ударів струмом).
• «Учитель» мав задавати питання, а за кожну неправильну відповідь - натискати кнопку, яка нібито подавала електрошок. Напруга починалася з 15 вольт і могла доходити до смертельних 450 вольт.
• «Учень» кричав від болю, благав зупинитися, а на найвищих рівнях вдавав, що втратив свідомість.

Коли «вчитель» вагався, експериментатор (у білому халаті) наполегливо говорив фрази на кшталт:

• «Продовжуйте, будь ласка».
• «Експеримент вимагає, щоб ви продовжували».
• «Ви не маєте іншого вибору».

Результати

• 65% учасників дійшли до максимальних 450 вольт, навіть попри очевидні страждання «жертви».
• Майже всі учасники проявляли сильний стрес: тремтіли, пітніли, нервово сміялися, але продовжували виконувати накази.

Висновок

Обидва дослідження показують: людина схильна порушувати норми, якщо є можливість зняти з себе провину. Різниця лише в тому, що сьогодні роль «авторитету» чи «виконавця» бере на себе ШІ.

Тож головне питання: чи готові ми брати відповідальність за рішення, ухвалені за допомогою машин?