Adept AI, науково-дослідна лабораторія штучного інтелекту, заснована колишніми співробітниками Google, які допомогли винайти популярну архітектуру трансформатора, запущена у вівторок з амбітною метою навчити машини використовувати «кожний програмний інструмент і API у світі».
Проект залучив 65 мільйонів доларів від інвесторів Саама Мотамеді та співзасновника LinkedIn Ріда Хоффмана. Серед інших інвесторів: Андрій Карпатий, керівник Tesla Autopilot; Яан Таллінн, ранній розробник Skype; і Кріс Ре, спеціаліст з інформатики зі Стенфордського університету та співзасновник Lattice Data, яку придбав Apple у 2017 році.
Співзасновник і генеральний директор Девід Луан сказав, що Adept є “дослідницькою лабораторією, яка займається розробкою загального інтелекту”. До Луана приєднуються технічний директор Нікі Пармар і головний науковий співробітник Ашиш Васвані, а також перша група співробітників, які залишили свої попередні посади в Google і DeepMind.
Співзасновники мають глибокі знання про системи на основі трансформаторів. Луан допомагав створювати GPT-2 і GPT-3 в OpenAI, а пізніше пішов до Google, працюючи разом з Parmar і Vaswani. Цій парі приписують розробку архітектури трансформатора ШІ, вперше запропонованої в 2017 році.
«Трансформатор був першою нейронною мережею, яка, здавалося, «просто працювала» для кожного великого випадку використання ШІ – саме результат дослідження переконав мене, що загальний інтелект можливий», – сказав Луан у заяві.
«Ми навчали все більших і більших трансформаторів, мріючи врешті-решт створити одну загальну модель для забезпечення всіх випадків використання ML, але було чітке обмеження: моделі, навчені на тексті, можуть писати чудову прозу, але вони не можуть виконувати дії в цифровому світі».
Adept зосередиться на навчанні нейронної мережі для виконання загальних завдань на вашому комп’ютері, як-от створення звітів про відповідність вимогам або побудови даних за допомогою наявного програмного забезпечення, такого як Photoshop, Tableau або Twilio. «Наприклад, ви можете використовувати GPT-3, щоб говорити про замовлення піци, але насправді ви не можете змусити його зробити це за вас», — сказав Луан The Register . Натомість модель Адепта буде діяти як «накладка», що сполучає користувача з його ПК або пристроєм.
Для нас це звучить як комп’ютери у «Зоряному шляху», де ви описуєте дію, яку потрібно виконати, а система визначає, як її виконати.
Луан передбачає майбутнє, в якому люди зможуть доручити моделі виконувати дії, використовуючи природну мову. Система навчиться виконувати ці завдання за допомогою доступного програмного забезпечення. Ця частина є вирішальною: систему, теоретично, навчать використовувати програмні та прикладні інтерфейси, щоб вона могла виконувати чиїсь команди за власною ініціативою. Цей гнучкий і масштабований дизайн відрізняється від більш тривіального та жорсткого підходу транскрибування команди та, наприклад, аналізу її для жорстко закодованих інструкцій та ключових слів.
Adept продовжить розвивати сучасну архітектуру трансформаторів. «На відміну від моделей, які навчаються лише на тексті, ми навчаємо його діям на комп’ютері», — сказав Луан.
Нам кажуть, що завдання та інструменти, якими зможе управляти Адепт, будуть прості, а з часом вони стануть все складнішими. Луан запропонував сценарій, за яким розробники могли б використовувати цю модель для мозкового штурму та проведення наукових досліджень.
«Це бачення продукту хвилює нас не тільки тим, наскільки відразу він може бути корисним для всіх, хто працює за комп’ютером, але й тому, що ми вважаємо, що це насправді найпрактичніший і найбезпечніший шлях до загального інтелекту»
Девід Луан
