«Розкриття інформації: погляди та думки, висловлені тут, належать виключно автору та не представляють погляди та думки редакції crypto.news. Швидкість, з якою штучний інтелект виходить за рамки регулювання, створює ризик для перевірки даних, ідентифікації та репутації, і, якщо його не контролювати, може збільшити поширеність дезінформації та сповільнити прогрес», — пишуть на: www.crypto.news
Розкриття інформації: погляди та думки, висловлені тут, належать виключно автору та не представляють погляди та думки редакції crypto.news.
Швидкість, з якою штучний інтелект виходить за межі регулювання, створює ризик для перевірки даних, ідентифікаційних даних і репутації, і, якщо його не контролювати, може збільшити поширеність дезінформації та сповільнити прогрес наукових інновацій. Марш до суперінтелектуального штучного інтелекту його найпалкіші лідери представляють як поштовх до наукового золотого віку. Однак цей поштовх збільшує ймовірність екзистенційного ризику того, що наше суспільство потрапить на деградаційне технологічне плато, де широке впровадження незрілих технологій штучного інтелекту обмежує, а з часом погіршує людську творчість та інновації.
Це суперечливе ставлення до більшості прихильників акселерації. Передбачається, що ШІ збільшить нашу здатність виконувати роботу швидше та синтезувати більші обсяги інформації. Однак ШІ не може замінити індуктивне міркування або експериментальний процес. Сьогодні будь-хто може використовувати штучний інтелект для створення наукової гіпотези та використовувати її як вихідні дані для створення наукової статті. Результати таких продуктів, як Aithor, на перший погляд часто здаються авторитетними і можуть навіть пройти експертну оцінку. Це велика проблема, оскільки тексти, згенеровані штучним інтелектом, уже розглядаються як законні наукові висновки та часто містять фіктивні сфабриковані дані на підтримку своїх тверджень. Існує великий стимул для молодих дослідників використовувати будь-які засоби, які вони мають, щоб конкурувати за обмежену кількість академічних вакансій і можливостей фінансування. Поточна система заохочення в академічних колах винагороджує тих, хто може опублікувати найбільше статей, незалежно від того, чи описують ці статті законні висновки, їм просто потрібно пройти рецензування та отримати достатню кількість цитат.
Академічний контент із неперевіреним авторством також створюватиме серйозну проблему для галузей, які залежать від фундаментальної науки для своїх досліджень і розробок, саме тих досліджень і розробок, які забезпечують функціонування нашого суспільства та підтримують якість життя зростаючого населення світу. У результаті добре фінансовані науково-дослідні роботи можуть довіряти лише тим дослідженням, які вони здатні виконати та відтворити самостійно, збільшуючи цінність комерційних таємниць і завдаючи нищівного удару відкритій науці та доступу до значущої інформації.
Дорогі зусилля з реплікації можуть самостійно впоратися з дезінформацією, однак проблема набагато більша. Сьогодні ми зіткнулися з ерозія довіри до самих основ знань, де неперевірені твердження та неоднозначні приписи підривають наукові досягнення, створюючи загрозу для наукової спільноти. Існує нагальна потреба створити економіку, засновану на правді для надійної автентифікації вмісту та даних.
Системи штучного інтелекту такі ж потужні, як і дані, на яких вони навчаються
Великі мовні моделі є чудовими інструментами для створення переконливого вмісту; однак вони настільки ж інформативні, як і дані, на яких вони навчаються. Їх здатність екстраполювати за межі навчального набору все ще залишається обмеженою. Роль науки полягає не лише в синтезі наявних знань, а й у створенні нових інформаційних артефактів, які збільшують ентропію колективного корпусу знань, накопичених людством. З часом, коли все більше людей буде використовувати штучний інтелект для створення контенту, а менше людей створюватиме оригінальний контент, ми зіткнемося з «роздутим низькоентропійним процесом», який не представлятиме світові нову інформацію, а лише рекомбінує минулі знання. Первинні джерела будуть втрачені, оскільки нові «знання» базуватимуться на самопосилальному контенті, створеному штучним інтелектом, якщо ми не створимо стійкий рівень походження та верифікований рівень атрибуції в інструменти ШІ, які використовуються для серйозних досліджень.
Ця «лоботомізація» інтелектуальної глибини колективного людського корпусу призведе до тривалого впливу на медичні, економічні та академічні дослідження, а також на мистецтво та творчі пошуки. Неперевірені дані можуть вплинути на дослідження, спотворити результати та призвести до важливих політичних чи технологічних помилок, які підривають авторитет наукових досліджень. Ризики «науки», створеної ШІ, різноманітні. Повсякденна робота нормальної науки зупиниться на дискусіях щодо авторства, звинуваченнях у плагіаті та погіршенні рецензування. Нам потрібно буде приділяти більше часу та енергії, щоб подолати численні наслідки зниження якості та точності наукових досліджень.
ШІ є корисним інструментом для провокації ідей, структурування думок і автоматизації повторюваних завдань; він повинен залишатися доповненням до створеного людьми вмісту, а не заміною. Його не слід використовувати для написання наукових статей, які пропонують оригінальні висновки без виконання роботи, а радше як допоміжний засіб для підвищення ефективності та точності зусиль під керівництвом людини. Наприклад, штучний інтелект може бути корисним у моделюванні існуючих даних за допомогою вже відомих методів і автоматизації цієї роботи, щоб допомогти відкрити нові напрямки досліджень. Однак експериментальний протокол і людську творчість, необхідні для наукового дослідження, не можна легко замінити.
Побудова економіки, заснованої на правді
Економіка, що ґрунтується на правді, встановлює структуру із системами та стандартами для забезпечення автентичності, цілісності, прозорості та відстеження інформації та даних. Він спрямований на необхідність встановлення довіри та можливості перевірки в технологічному суспільстві, дозволяючи окремим особам і організаціям покладатися на точність спільних знань. Цінність полягає в правдивості тверджень і автентичності спостережень і першоджерел. Економіка, заснована на правді, зробить цифрові знання «твердими» так само, як біткойн зробив фіат жорстким. Це обіцянка руху децентралізованої науки.
Як ми туди потрапимо? Нам потрібно почати з найважливішого елемента наукового світу — окремого дослідника та його роботи. Поточні веб-стандарти для наукової ідентичності на сьогоднішній день не забезпечують перевірку тверджень щодо ідентичності та підтвердження роботи. Сучасна практика дозволяє дуже легко виготовити профіль з гідною репутацією; експертні оцінки також піддаються ризику через упередженість і змову. Без перевірки метаданих, які супроводжують наукову заяву, економіку науки, засновану на правді, неможливо створити.
Удосконалення стандартів академічної ідентифікації можна розпочати з простого кросплатформного входу на базі технології перевірки особи, що зберігає конфіденційність. Користувачі повинні мати можливість входити на будь-який сайт за допомогою своїх облікових даних, підтверджувати автентичність і вибірково розкривати факти про свою репутацію, дані або інших агентів чи користувачів.
Рівень ідентичності, який ґрунтується на репутації дослідника, який можна перевірити, є базовою основою DeSci. Повна мережева наукова економіка дозволить публічно та анонімно брати участь у масовій онлайн-координації дослідницької діяльності. Дослідницькі лабораторії та децентралізовані автономні організації можуть створювати системи без дозволу та програми винагороди, які не можуть бути піддані шахрайству щодо репутації чи ідентифікації. Універсальний науковий реєстр, захищений на блокчейні з претензіями на ідентифікацію, забезпечить систему відліку для автономних організацій, створених для накопичення наукових знань, які можна перевірити, і перевірки гіпотез, які можна фальсифікувати.
Захист майбутнього прогресу людства
Нам потрібно встановити основи істини за допомогою прозорості інформації та ретельної перевірки, щоб уникнути падіння довіри в експертних сферах досліджень. Шанси на те, що наш колективний прогрес триватиме ще сотні років, відкриваючи послідовні наукові революції в матеріалознавстві, біотехнології, нейронауці та науці про складність, залежатиме від кураторства якісних досліджень і надійних даних. Це буде різниця між майбутнім суспільством, яке буде таким же розвиненим, як ми, порівняно з суспільствами до просвітництва. Інакше нам доведеться очікувати, що це настільки ж розумні, наскільки ми стаємо як вид, і ми станемо лише дурнішими. Незрозуміло, врятує DeSci нас чи ні, але є обмежений час, щоб все виправити.
Shady El Damaty
Shady El Damaty є співзасновником Holonym Foundation, який шукає рішення для універсальної особистості та безпечного цифрового доступу за допомогою децентралізованого протоколу ідентифікації, побудованого на магії доказів з нульовим знанням. У 2020 році він створив OpSci, першу децентралізовану наукову організацію, або скорочено DeSci. До своєї кар’єри в криптовалюті Шейді отримав ступінь доктора філософії з нейронаук у Джорджтаунському університеті, Вашингтон, округ Колумбія, США.