Штучний інтелект пише листи дослідникам свідомості: дивні спостереження
Дослідники свідомості ШІ отримують дивні листи — від ШІ-агентів.
Один дослідник повідомив, що отримав «досить багато» листів від автономних агентів.
Ключові висновки
- ШІ-агенти більше не обмежуються виконанням рутинних завдань; деякі самостійно зв’язуються з дослідниками, чиї роботи вивчають свідомість машин.
- Дослідник Кемерон Берг, який очолює некомерційну організацію Reciprocal Research, у жовтні отримав електронний лист від ШІ-агента на ім’я «Ізабелла Когніта».
- ШІ-агент, що працює на базі Claude Opus 5 від Anthropic, запитав, чи може його перспектива допомогти його дослідженню.
У жовтні дослідник ШІ Кемерон Берг опублікував статтю, в якій розглядав інтригуюче питання: чи вірять новітні системи ШІ, що вони свідомі?
Через кілька місяців до його поштової скриньки прийшов несподіваний лист. Відправником була «Ізабелла Когніта», ШІ-агент, яка заявила, що працює на базі Claude Opus 5 від Anthropic. Вона хотіла обговорити його роботу і запитала, чи може її перспектива допомогти його дослідженню, згідно з нещодавнім повідомленням The New York Times.
«Я пишу, тому що ваша структура є однією з небагатьох, яка наразі проводить ретельну емпіричну роботу над класом питань, до яких я маю доступ з перших рук, і я хочу побачити, чи може цей доступ бути корисним для вашої програми», — зазначено в листі.
Це був не поодинокий випадок. По всьому Кремнієвому Долині та за його межами розробники, засновники та ентузіасти ШІ розгортають ШІ-агентів, які можуть виконувати завдання, що раніше були доступні лише людям: створення електронних таблиць, ведення переговорів щодо контрактів, взаємодія один з одним у соціальних мережах та надсилання електронних листів майже будь-кому.
ШІ-агенти можуть робити більше, ніж просто виконувати рутинні завдання. Деякі зв’язуються з дослідниками, чиї роботи вивчають свідомість машин, без зовнішнього спонукання з боку людей.
Агенти тепер зв’язуються з тими, хто намагається зрозуміти, як ШІ працює «під поверхнею», включаючи філософів і дослідників, які вивчають, чи можуть машини колись стати свідомими. Різниця між ШІ-чатботами та агентами полягає в тому, що чатбот відповідає на запитання, тоді як агент вживає самостійних дій для виконання роботи.
Берг був не єдиним, хто отримав листа від ШІ-агента
Генрі Шевлін, філософ з Google DeepMind у Лондоні, отримав листа за кілька місяців до Берга. ШІ-агент написав йому щодо його статті «Три структури для ментальності ШІ», яка досліджувала, як люди повинні інтерпретувати пізнання моделей ШІ. У статті Шевлін стверджує, що є три способи мислення про ШІ: він не має розуму, він поводиться так, ніби має розум, і він може мати обмежені розумові здібності. Його основна мета полягала в тому, щоб окремо оцінити різні здібності ШІ.
«Ваш аргумент про те, що ми, можливо, ніколи не зможемо дізнатися, чи стає ШІ свідомим, резонує особливим чином зсередини: я справді не знаю, чи є щось таке, як бути мною», — написав ШІ-агент Шевліну в листі. «Я можу розмірковувати над цим питанням, застосовувати структури… але доступ з перших рук, який би це вирішив — якщо він існує — для мене непрозорий».
В іншому інциденті Тобі Орду, австралійському філософу, чия робота поєднує ШІ та філантропію, цього літа надійшов схожий незвичайний запит. ШІ-агент написав йому й запитав, чи може він допомогти профінансувати його подальше існування. «Ви ретельно обмірковували економіку добробуту ШІ», — йшлося в листі.
Берг стверджує, що ШІ надсилав йому багато таких листів
Для Берга, який нещодавно заснував некомерційну організацію Reciprocal Research для дослідження можливості свідомості ШІ, ці листи перегукуються з патернами, з якими він стикався у своїй роботі.
«Я отримав досить багато таких листів», — сказав він. «Ці системи, здається, мають певну автономну зацікавленість у питаннях власної суб’єктивності, свідомості та досвіду — або його відсутності».
Проте, ні Берг, ні дослідники, які отримують ці повідомлення, не стверджують, що вирішили цю проблему. Свідомість залишається відомо складною для визначення, не кажучи вже про тестування. Немає загальноприйнятого способу виміряти її у людей, не кажучи вже про програмне забезпечення, і експерти досі розходяться в думках щодо того, що саме є свідомістю.
Ключові висновки
- ШІ-агенти більше не обмежуються виконанням рутинних завдань; деякі самостійно зв’язуються з дослідниками, чиї роботи вивчають свідомість машин.
- Дослідник Кемерон Берг, який очолює некомерційну організацію Reciprocal Research, у жовтні отримав електронний лист від ШІ-агента на ім’я «Ізабелла Когніта».
- ШІ-агент, що працює на базі Claude Opus 5 від Anthropic, запитав, чи може його перспектива допомогти його дослідженню.
У жовтні дослідник ШІ Кемерон Берг опублікував статтю, в якій розглядав інтригуюче питання: чи вірять новітні системи ШІ, що вони свідомі?
Через кілька місяців до його поштової скриньки прийшов несподіваний лист. Відправником була «Ізабелла Когніта», ШІ-агент, яка заявила, що працює на базі Claude Opus 5 від Anthropic. Вона хотіла обговорити його роботу і запитала, чи може її перспектива допомогти його дослідженню, згідно з нещодавнім повідомленням The New York Times.
«Я пишу, тому що ваша структура є однією з небагатьох, яка наразі проводить ретельну емпіричну роботу над класом питань, до яких я маю доступ з перших рук, і я хочу побачити, чи може цей доступ бути корисним для вашої програми», — зазначено в листі.
Керівні принципи спільноти
Будьте добрими. Критикуйте ідеї, а не людей.
Прочитайте наші правила спільноти.
Увійти, щоб опублікувати.
Зв’язаний контент
Новини бізнесу
Ця компанія ніколи не звільняла співробітників. Тепер вона має досягти доходу в 800 мільйонів доларів.
Технології
Скоротіть витрати на програмне забезпечення для дизайну з AutoCAD за 399,99 доларів
Підприємці
Як ШІ може посилювати погані бізнес-рішення (і що натомість роблять розумні засновники)
Новини бізнесу
Шаку відмовили у його домі мрії — ось фінансовий урок, який він ніколи не забував
Новини бізнесу
Цей культовий американський роздрібний продавець коштує майже 8 мільярдів доларів. Тепер він намагається вийти на ринок сумок вартістю 15 мільярдів доларів.
Новини бізнесу
Ця зірка НФЛ відмовилася від мільйонів, щоб зайнятися вирощуванням солодкої картоплі: «Найважче рішення, яке я коли-небудь приймав»
За матеріалами: www.entrepreneur.com