![Компьютерная система на основе света может дать мощный толчок программам машинного обучения типа ChatGPT Компьютерная система на основе света может дать мощный толчок программам машинного обучения типа ChatGPT](/uploads/posts/2023-07/novyj-proekt-51.webp)
Компьютерная система на основе света может дать мощный толчок программам машинного обучения типа ChatGPT
Компьютерные системы на основе света — новая технология, разработанная командой ученых из Массачусетского технологического института (MIT), которая может значительно повысить мощность и эффективность программ машинного обучения, таких как ChatGPT. На данный момент нейросети такого типа ограниченны размерами и мощностью современных суперкомпьютеров, которые требуют большого количества энергии для обучения и запуска моделей машинного обучения.
Система на основе света, представленная в журнале Nature Photonics в этом месяце, использует сотни микронных лазеров для выполнения вычислений на основе движения света, а не электронов. С помощью этой системы команда сообщает о более чем 100-кратном увеличении энергоэффективности и 25-кратном увеличении вычислительной плотности, то есть меры мощности системы, по сравнению с передовыми цифровыми компьютерами для машинного обучения.
В статье авторы утверждают, что новая технология открывает путь к крупномасштабным оптоэлектронным процессорам для ускорения задач машинного обучения. Другими словами, мобильные телефоны и другие небольшие устройства в будущем смогут запускать программы, которые в настоящее время могут быть запущены только в крупных центрах обработки данных.
Создание такой системы на оптической основе стало возможным благодаря использованию лазерных массивов, которые широко используются в современной технологии, например, для распознавания лиц в сотовых телефонах и передачи данных.
— Зайджун Чен, первый автор работы, доцент Университета Южной Калифорнии.
— Дирк Энглунд, доцент кафедры электротехники и компьютерных наук MIT и руководитель работы.
Оптическая вычислительная система состоит из двух основных компонентов: лазерных массивов и фотодетекторов. Лазерные массивы — это наборы микронных лазеров, которые могут генерировать и модулировать свет разных цветов и интенсивностей. Фотодетекторы — это устройства, которые могут преобразовывать свет в электрические сигналы.
Комбинируя эти компоненты, система может выполнять различные математические операции, необходимые для машинного обучения, такие как сложение, умножение, скалярное произведение и матричное умножение.
Преимущество системы на основе света заключается в том, что она может параллельно обрабатывать большое количество данных с высокой скоростью и низким энергопотреблением. Свет может перемещаться быстрее, чем электроны, и не подвержен тепловым потерям или электромагнитным помехам. Кроме того, свет может нести больше информации, чем электрический сигнал, поскольку он может иметь разные длины волн, фазы и поляризации. Это позволяет системе на основе света использовать меньше ресурсов для выполнения тех же задач, что и цифровые компьютеры.
Система на основе света может быть применена к различным типам программ машинного обучения, в том числе и, к таким как ChatGPT. ChatGPT основан на архитектуре нейронной сети, называемой трансформером, которая состоит из множества слоев обработки данных.
Каждый слой трансформера использует матричные операции для извлечения признаков из входных данных и генерации выходных данных. Система на основе света может эффективно выполнять эти операции с помощью лазерных массивов и фотодетекторов. Таким образом, система на основе света может увеличить размер и сложность модели ChatGPT, а также ускорить ее обучение и запуск.
В своей работе авторы наглядно демонстрируют, что компьютерная система на основе света — это перспективная технология для улучшения мощности и эффективности программ машинного обучения. Она может открыть новые возможности для искусственного интеллекта и его приложений в различных областях.
Новая эра оптических вычислений
Система на основе света, представленная в журнале Nature Photonics в этом месяце, использует сотни микронных лазеров для выполнения вычислений на основе движения света, а не электронов. С помощью этой системы команда сообщает о более чем 100-кратном увеличении энергоэффективности и 25-кратном увеличении вычислительной плотности, то есть меры мощности системы, по сравнению с передовыми цифровыми компьютерами для машинного обучения.
В статье авторы утверждают, что новая технология открывает путь к крупномасштабным оптоэлектронным процессорам для ускорения задач машинного обучения. Другими словами, мобильные телефоны и другие небольшие устройства в будущем смогут запускать программы, которые в настоящее время могут быть запущены только в крупных центрах обработки данных.
Создание такой системы на оптической основе стало возможным благодаря использованию лазерных массивов, которые широко используются в современной технологии, например, для распознавания лиц в сотовых телефонах и передачи данных.
Мы ожидаем, что она может быть масштабирована для коммерческого использования в течение нескольких лет. Например, лазерные массивы, задействованные в этом проекте, широко используются в распознавании лиц сотовых телефонов и передаче данных
— Зайджун Чен, первый автор работы, доцент Университета Южной Калифорнии.
ChatGPT ограничен своим размером мощностью современных суперкомпьютеров. Это просто не экономически выгодно обучать модели, которые будут больше. Наша новая технология может сделать возможным переход к моделям машинного обучения, которые иначе были бы недостижимы в ближайшем будущем. Мы не знаем, какие возможности будет иметь следующее поколение ChatGPT, если оно будет в 100 раз мощнее, но это область открытий, которую может позволить такая технология
— Дирк Энглунд, доцент кафедры электротехники и компьютерных наук MIT и руководитель работы.
Как работает вычислительная система на основе света и почему она так эффективна для машинного обучения?
Оптическая вычислительная система состоит из двух основных компонентов: лазерных массивов и фотодетекторов. Лазерные массивы — это наборы микронных лазеров, которые могут генерировать и модулировать свет разных цветов и интенсивностей. Фотодетекторы — это устройства, которые могут преобразовывать свет в электрические сигналы.
Комбинируя эти компоненты, система может выполнять различные математические операции, необходимые для машинного обучения, такие как сложение, умножение, скалярное произведение и матричное умножение.
Преимущество системы на основе света заключается в том, что она может параллельно обрабатывать большое количество данных с высокой скоростью и низким энергопотреблением. Свет может перемещаться быстрее, чем электроны, и не подвержен тепловым потерям или электромагнитным помехам. Кроме того, свет может нести больше информации, чем электрический сигнал, поскольку он может иметь разные длины волн, фазы и поляризации. Это позволяет системе на основе света использовать меньше ресурсов для выполнения тех же задач, что и цифровые компьютеры.
Система на основе света может быть применена к различным типам программ машинного обучения, в том числе и, к таким как ChatGPT. ChatGPT основан на архитектуре нейронной сети, называемой трансформером, которая состоит из множества слоев обработки данных.
Каждый слой трансформера использует матричные операции для извлечения признаков из входных данных и генерации выходных данных. Система на основе света может эффективно выполнять эти операции с помощью лазерных массивов и фотодетекторов. Таким образом, система на основе света может увеличить размер и сложность модели ChatGPT, а также ускорить ее обучение и запуск.
В своей работе авторы наглядно демонстрируют, что компьютерная система на основе света — это перспективная технология для улучшения мощности и эффективности программ машинного обучения. Она может открыть новые возможности для искусственного интеллекта и его приложений в различных областях.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
![Западная Европа и США готовятся к худшему Западная Европа и США готовятся к худшему](/uploads/mini/shortstory/c1e/63452ff84713a553fcb2c4b14eb54.jpg)
Западная Европа и США готовятся к худшему
Новая угроза ожидается из Латинской Америки....
![NASA обнаружило таинственное энергетическое поле вокруг Земли NASA обнаружило таинственное энергетическое поле вокруг Земли](/uploads/mini/shortstory/63f/993f5cca125710bd5e7998c3c423d.jpg)
NASA обнаружило таинственное энергетическое поле вокруг Земли
Оно уникально, и, похоже, благодаря нему на планете… появилась жизнь....
![Спасение человечества находится на дне Северного Ледовитого океана Спасение человечества находится на дне Северного Ледовитого океана](/uploads/mini/shortstory/b16/5cda8ba33085ef44bb4cc9b986200.jpg)
Спасение человечества находится на дне Северного Ледовитого океана
Финские ученые уверены в этом на 100%....
![Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает](/uploads/mini/shortstory/124/739e8816037bad0a313bd7f3476af.jpg)
Starliner Boeing снова в новостях: теперь там что-то жутко стучит и лязгает
NASA придумывает объяснения, а бывший командир МКС говорит, что это не к добру....
![«Титаник» разваливается прямо на глазах «Титаник» разваливается прямо на глазах](/uploads/mini/shortstory/8a2/1d2eb1dfde31d5f5369b4d0d48d62.jpg)
«Титаник» разваливается прямо на глазах
Кто же ускоряет гибель легендарного корабля: люди или природа?...
![Прорыв или кошмар? Искусственный интеллект стал изменять собственный код Прорыв или кошмар? Искусственный интеллект стал изменять собственный код](/uploads/mini/shortstory/1be/9b06786bac11541ae0e4d76991468.jpg)
Прорыв или кошмар? Искусственный интеллект стал изменять собственный код
Ученые говорят: ничего страшного. Но так ли это на самом деле?...
![Форресты Гампы отменяются Форресты Гампы отменяются](/uploads/mini/shortstory/1f0/4b4ba26a87069298154cbaaf7521f.jpg)
Форресты Гампы отменяются
Американские ученые «взломали» код аутизма....
![Сосуд из найденного в Шотландии клада викингов оказался иранским Сосуд из найденного в Шотландии клада викингов оказался иранским](/uploads/mini/shortstory/b9b/6c5a16607870dcee7ded870025f56.jpg)
Сосуд из найденного в Шотландии клада викингов оказался иранским
Никто не ожидал, что сокровище прибыло из столь отдаленных мест....
![Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов](/uploads/mini/shortstory/e7b/f7bb936b1fafeefb602fbc6b7740b.jpg)
Безглазая смерть чует тьму: как именно грибок превращает мух в зомби-некрофилов
Главное случается ночью....
![Новый метод поможет раскрыть секс-преступления во много раз быстрее Новый метод поможет раскрыть секс-преступления во много раз быстрее](/uploads/mini/shortstory/0f3/39f1637a6f4b732bda029be4a1ff5.jpg)
Новый метод поможет раскрыть секс-преступления во много раз быстрее
Открытие ускорит проверку улик....
![Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни](/uploads/mini/shortstory/fa6/3b50ed6fd66775e77a87003ce5250.jpg)
Азиаты оккупируют Британию: сначала мигранты, теперь желтоногие шершни
Экологи бьют тревогу и массово рассылают методички населению....
![Космический корабль BepiColombo невероятно близко подлетел к Меркурию Космический корабль BepiColombo невероятно близко подлетел к Меркурию](/uploads/mini/shortstory/83d/c7e5e8717f2100b5313e052890584.jpg)
Космический корабль BepiColombo невероятно близко подлетел к Меркурию
Свежие снимки рябой планеты удалось сделать благодаря возникшим в полёте неполадкам....
![Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta](/uploads/mini/shortstory/1b0/526e645ecf476da55256bb5a433aa.jpg)
Компания 1X анонсировала повседневного помощника — гуманоидного робота NEO Beta
Похожий на человека механический слуга умеет ходить, бегать и подниматься по лестнице....
![Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре](/uploads/mini/shortstory/11b/f9e2330b21c4d24c2519784700a4f.jpg)
Роботы и 3D-печать сделали бетон прочнее благодаря особой структуре
Имитируя природу, бетон можно уложить так, чтобы повысить прочность на 63%....
![Учёные не нашли связи между мобильными телефонами и раком мозга Учёные не нашли связи между мобильными телефонами и раком мозга](/uploads/mini/shortstory/152/0835ee76c49c6c0c1dcc9ac68693a.jpg)
Учёные не нашли связи между мобильными телефонами и раком мозга
В общем, болтай часами — не хочу....