Новий фреймворк квантового машинного навчання обіцяє легше навчання та масштабованість

Новий підхід до квантового машинного навчання

Представлено нову теоретичну основу квантового машинного навчання, яка пропонує дизайн квантових схем. Метою є спрощення навчання великих квантових нейронних мереж, зберігаючи при цьому обчислювальні завдання, які залишаються складними для класичних комп'ютерів. Фреймворк, розроблений Йорданісом Керенідісом, вводить дві масштабовані архітектури схем та метод паралельного навчання. Він математично уникає експоненційних «безплідних плато» та зменшує кількість оцінок квантових схем, необхідних для обчислення градієнтів, приблизно на коефіцієнт, пропорційний кількості кубітів.

Наразі це теоретична пропозиція без великомасштабної апаратної валідації чи доказів перевершення провідних класичних моделей машинного навчання. Однак, якщо підхід виявиться успішним на майбутньому квантовому обладнанні, він може допомогти системам машинного навчання вирішувати складні проблеми у таких сферах, як фінансове моделювання ризиків, оптимізація портфелів, відкриття матеріалів, розробка ліків та логістика, які важко ефективно вирішити за допомогою класичних комп'ютерів.

Архітектури схем для масштабованості

Фреймворк пропонує схеми, які зберігають фіксовану кількість частинкоподібних збуджень, коли інформація рухається між кубітами. Дизайн поєднує реконфігуровані гейти-розділювачі променів, які переміщують збудження між двома кубітами, та однокубітні фазові гейти. Фазові гейти відіграють центральну роль, розширюючи діапазон трансформацій, які можуть виконувати схеми, та запобігаючи експоненційному зменшенню градієнтів, що використовуються в навчанні.

Фреймворк використовує два типи схем:

1. Унітарна схема «цегляна стіна» (unitary brick-wall circuit): розташовує гейти в шаховому порядку для сусідніх кубітів. Вона призначена для процесорів, де кубіти взаємодіють переважно із сусідніми кубітами. Глибина цієї схеми зростає прямо пропорційно кількості кубітів.
2. Унітарна схема «метелик» (unitary butterfly circuit): з'єднує кубіти за схемою, подібною до тієї, що використовується в алгоритмах швидкого перетворення Фур'є. Вона передбачає апаратне забезпечення з далекосяжними або реконфігурованими з'єднаннями між кубітами. Ця схема значно менш глибока, її глибина зростає лише логарифмічно з кількістю кубітів.

Дослідження надає безумовний математичний результат, що показує, що схема «цегляна стіна» уникає експоненційних безплідних плато. Для схеми «метелик» встановлюється безумовна поліноміальна нижня межа навчального сигналу, що також виключає експоненційне безплідне плато.

Оптимізація процесу навчання

Навіть якщо квантова схема є навчальною, її використання може бути непрактичним, якщо обчислення градієнтів вимагає занадто багато звернень до квантового процесора. Дослідження вводить багатошарове правило паралельного зсуву параметрів (multi-layer parallel parameter-shift rule), яке обчислює ефекти багатьох параметрів одночасно. Цей метод використовує шари схем, що містять гейти, які діють на окремі пари кубітів і, отже, не заважають один одному протягом одного шару. Він використовує випадкові шаблони позитивних та негативних змін параметрів для одночасного оцінювання всіх градієнтів у шарі. Оцінювач є неупередженим.

Для обох архітектур схем дослідження повідомляє про зменшення кількості оцінок схем на коефіцієнт, що дорівнює кількості кубітів, поділеній на подвоєну кількість частинкоподібних збуджень, що використовуються в моделі. Наприклад, у випадку з 1024 кубітами та 10 збудженнями, схема «метелик» вимагатиме 600 оцінок схем для кроку градієнта, порівняно з приблизно 30 720 за стандартного підходу, що становить зменшення приблизно у 51 раз. Схема «цегляна стіна» такого ж розміру вимагатиме близько 61 400 оцінок замість понад 3,1 мільйона, також зменшення приблизно у 51 раз.

Абсолютна вартість залишається значно вищою для дизайну «цегляної стіни» через її структуру найближчих сусідів, яка вимагає більше шарів. Ця різниця ілюструє компроміс в апаратному забезпеченні, а не твердження, що одна архітектура є універсально кращою. Схема «метелик» пропонує меншу глибину та менше оцінок схем, але вимагає гнучких з'єднань між віддаленими кубітами. Схема «цегляна стіна» глибша та дорожча в навчанні, але краще підходить для процесорів з локальними з'єднаннями.

Кодування даних та обчислювальна складність

Фреймворк також пропонує метод завантаження класичних даних у квантову схему. Він починається зі спеціально підготовлених квантових станів, відомих як негауссові «магічні стани». Класичні дані кодуються через фазові обертання, застосовані після цього процесу поширення. Кожна ознака змінює фазу одного кубіта, дозволяючи всім ознакам впливати на заплутаний квантовий стан.

Дослідження представляє дві версії вхідного стану для різних завдань машинного навчання:

• Для завдань, що генерують вибірки (наприклад, генеративне моделювання або вибір дій у навчанні з підкріпленням): пропозиція використовує парні групи збуджень. Кількість збуджень зростає логарифмічно з кількістю кубітів. Відповідно до дослідження, отримана вихідна дистрибуція буде складною для точного вибіркового відтворення класичним комп'ютером.
• Для завдань з учителем (таких як класифікація та регресія): фреймворк використовує групи з трьох збуджень та вимірює кореляції між парами кубітів. У цьому випадку кількість збуджень зростає з квадратом логарифма кількості кубітів. Обчислення цих двокубітних кореляцій вимагатиме суперполіноміального класичного часу за найкращими відомими методами симуляції.

Фреймворк розроблений так, щоб уникнути відомих «ярликів» для класичної симуляції. Для завдань машинного навчання з учителем він використовує інший тип вхідного стану, симуляція якого вимагатиме складнішого математичного об'єкта, званого «гіпер-пфаффіаном». Наразі невідомий ефективний класичний алгоритм для виконання цього обчислення, тому дослідження стверджує, що ці моделі залишаються складними для симуляції за допомогою найкращих сучасних методів. Однак, це не є доказом того, що ефективний класичний алгоритм ніколи не буде знайдений, а відображає поточний стан знань.

Відкриті питання та майбутні перспективи

Фреймворк може підтримувати класифікацію, регресію, квантові ядерні методи, генеративні моделі та політики навчання з підкріпленням. Також можливі гібридні системи, де класична модель приєднується до виміряних виходів квантової схеми. Кількість необхідних зразків для узагальнення моделі має залишатися поліноміальною від кількості параметрів, що навчаються, а не зростати з повною розмірністю квантового простору станів.

Залишається відкритим питання, чи є функції, складні для відтворення класичними комп'ютерами, корисними для реальних завдань машинного навчання. Обчислювальна складність сама по собі не гарантує, що квантова модель буде класифікувати зображення точніше, прогнозувати дані ефективніше або вивчати кращі політики управління, ніж класична система. Для тестування цього питання знадобляться квантові процесори, які можуть працювати з сотнями кубітів з достатнім контролем, зв'язністю та точністю вимірювань. Дослідження вказує на системи з приблизно 256 або 512 кубітами як можливі масштаби для значущих порівнянь, залежно від архітектури схеми та апаратних з'єднань.

Дослідження зосереджується переважно на ідеальній поведінці схем та математичному масштабуванні, не враховуючи шум. Подальша робота може вивчити, чи навчання одного шару або блоку за раз сходиться ефективніше, ніж оновлення всієї схеми. Альтернативні вхідні стани також можуть пропонувати різні компроміси між глибиною підготовки, структурою даних та стійкістю до класичної симуляції. Важливо зазначити, що цей матеріал є препринтом на сервері arXiv і не пройшов офіційного рецензування.

Що це означає для розробників

Цей теоретичний фреймворк пропонує розробникам нові архітектури квантових схем та методи навчання, які можуть зробити квантові нейронні мережі більш практичними для тренування. Він має на меті подолати такі перешкоди, як «безплідні плато» та високі обчислювальні витрати, відкриваючи шлях до створення більших та складніших квантових моделей машинного навчання, якщо ці ідеї будуть підтверджені на майбутньому апаратному забезпеченні.

Ключові факти

• Представлено новий теоретичний фреймворк квантового машинного навчання.

• Мета: спростити навчання великих квантових нейронних мереж та зберегти обчислювальні завдання, складні для класичних комп'ютерів.

• Фреймворк вводить дві масштабовані архітектури схем («цегляна стіна» та «метелик») та метод паралельного навчання.

• Математично уникає експоненційних «безплідних плато» та зменшує кількість оцінок схем для градієнтів.

• Пропозиція є теоретичною, без великомасштабної апаратної валідації чи доказів перевершення класичних моделей.

Джерела

• Quantum Machine-Learning Design Targets Training And Scaling Barriers