Что такое TOPS и почему это важно для ИИ?

Краткий ответ: TOPS (тера операций в секунду) — это термин, используемый для измерения, упрощения и рекламы производительности нейронных процессоров (NPU) в компьютерах с искусственным интеллектом. TOPS не является идеальным показателем, и многие переменные влияют на то, насколько хорошо система справляется с задачами ИИ. Тем не менее, он дает краткую информацию о скорости NPU и ее сравнении с конкурентами.

В нашем исследовании компьютеров с искусственным интеллектом появляется множество новых терминов и сокращений, проливающих свет на последние аппаратные инновации и возможности.

Многие современные ноутбуки, а вскоре и настольные компьютеры с процессором AMD Ryzen PRO 8000, оснащены процессорами со встроенными нейронными процессорами (NPU). Это дополнение расширяет возможности искусственного интеллекта компьютеров.

Поскольку нейронные процессоры (NPU) становятся все более распространенными в вычислениях ИИ, требуется новый метод оценки производительности. Введите «TPS» или «Тысячи операций в секунду» — термин, который будет привлекать значительное внимание по мере распространения компьютеров с искусственным интеллектом.

Что такое ТОПС?

TOPS — не новый термин в технологической индустрии, но в последнее время он попал в заголовки газет из-за резкого роста количества высокопроизводительных компьютеров с искусственным интеллектом (по сути, это ПК, оснащенные современными процессорами, графическими процессорами и NPU). Чтобы лучше понять, чем NPU отличаются от графических процессоров, прочтите полезную статью Ребекки Спир о Windows Central.

TOPS представляет собой количество триллионов операций, которые система способна выполнять каждую секунду. Эту метрику можно использовать для оценки общей производительности системы или ее можно разбить на части для оценки отдельных аппаратных компонентов.

Видеокарта NVIDIA RTX 4090 может похвастаться производительностью более 1300 TOPS (тера операций в секунду), что делает ее отличным выбором как для игр, так и для задач по улучшению искусственного интеллекта. Эта впечатляющая цифра ставит его в число самых мощных графических процессоров, доступных в настоящее время на рынке, хотя сама величина этого числа все еще может оставить некоторых в недоумении.

Процессоры Intel Core Ultra знаменуют собой новую веху для компании, поскольку они являются первыми моделями, в которых интегрирован нейронный процессор (NPU). Эти процессоры в общей сложности обеспечивают 34 TOPS (тера операций в секунду), причем примерно 10 TOPS предназначены исключительно для NPU. Мобильные процессоры AMD Ryzen 8040 повышают производительность NPU до 16 TOPS, а предстоящий Snapdragon X Elite от Qualcomm дебютирует с NPU, обладающим впечатляющей производительностью в 45 TOPS.

Планируется, что Intel, AMD и Qualcomm расширят возможности нейронных процессоров (NPU) в своих будущих линейках продуктов. Ожидается, что будущие процессоры Intel Lunar Lake будут оснащены NPU с производительностью 45 ТераОпс в секунду (TOPS). AMD объявила о планах почти утроить производительность NPU в своей следующей серии мобильных процессоров.

Производители микросхем все чаще рекламируют свою продукцию, используя термин «TOPS». Этот сдвиг в первую очередь направлен на то, чтобы потребителям было легче понять производительность и обеспечить более четкое понимание предлагаемых продуктов.

Почему производительность ИИ измеряется с помощью TOPS?

При оценке производительности нейронных процессоров (NPU) TOPS (триллионы операций в секунду) — это лишь один аспект, на который не следует полагаться исключительно. В 2020 году было много ажиотажа вокруг TFLOP (триллионов операций с плавающей запятой в секунду) с появлением на горизонте новых консолей. Аналогичным образом, TOPS используется для того, чтобы сделать производительность системы более доступной и привлекательной для более широкой аудитории. NPU, который может выполнять в два-три раза больше TOPS, чем его конкурент, на первый взгляд может показаться впечатляющим, но этот показатель не отражает всей картины.

На первый взгляд, большое количество операций в секунду (TOPS) желательно для нейронного процессора (NPU), а меньшее — нет. Однако это лишь верхушка айсберга, поскольку существует множество факторов, которые могут повлиять на производительность NPU. Например, NPU со 100 TOPS можно точно настроить для конкретной задачи и обеспечить превосходные результаты по сравнению с другим NPU с 200 TOPS, оптимизированным для другой задачи.

Оценка общей производительности компьютера обычно включает в себя как количественные результаты тестов, так и качественные оценки, основанные на повседневном использовании. В наших обзорах ноутбуков мы представляем подробные числовые данные, полученные с помощью специальных инструментов тестирования, а также предлагаем интуитивное представление о том, как машина работает в практических ситуациях.

Измерение производительности нейроморфного процессора (NPU) — это еще один аспект, который требует внимания по мере нашего прогресса. К счастью, существуют тесты, специально разработанные для NPU, которые служат полезной основой для оценки энергопотребления, связанного с конкретными задачами.

Microsoft использует TOPS (тера операций в секунду) в качестве эталона аппаратных возможностей встроенных инструментов искусственного интеллекта в TOPS. По данным Tom’s Hardware, Microsoft установила минимальное требование в 40 TOPS для локального запуска Copilot в вашей системе без необходимости подключения к своим серверам.

Хотя TOPS, возможно, не является самым точным показателем для оценки производительности нейронного процессора (NPU), он обеспечивает общий эталон, который позволяет покупателям проводить приблизительные сравнения между различными компьютерами с искусственным интеллектом.

Стоит ли вам беспокоиться о TOPS?

Оценка TOPS (триллионов операций в секунду) предоставляет быстрый и несложный способ оценить возможности нейронных процессоров (NPU) или определить, подходит ли NPU для работы с конкретными инструментами. Однако TOPS не должен служить единственным ориентиром при определении общей мощности NPU. Эта оценка связана с определенными сложностями, поэтому важно убедиться, что вы выбрали подходящее оборудование для вашей конкретной задачи.

Необходимо ли вам учитывать TOPS? Ответ может быть разным. Если вы обычный пользователь компьютера, который в основном использует электронную почту, просматривает веб-страницы и работает над приложениями для повышения производительности, вам, вероятно, не нужно беспокоиться о NPU или методах, используемых для оценки их производительности. Однако, если вы ищете новый ноутбук и планируете использовать определенные инструменты искусственного интеллекта, было бы полезно принять к сведению системные требования для этих инструментов.

Если вас больше привлекает растущая сфера компьютеров с искусственным интеллектом и нейронных процессоров (NPU), то вы, вероятно, уже хорошо разбираетесь в TOPS, что означает Tera Operations Per Second. Однако имейте в виду, что TOPS не является окончательным показателем, а представляет собой удобный эталон, используемый производителями чипов для сравнения и продвижения своих предложений.

Смотрите также

• Как получить и использовать очки мастерства в Space Marine 2
• Warhammer 40K: Space Marine 2 – Как разблокировать перки оружия
• Чем заканчивается книга «Презумпция невиновности»?
• Полный список миссий Warhammer 40K Space Marine 2
• Как выполнить личный квест Ирлиет в Warhammer 40: Rogue Trader
• WoW: The War Within — Полное руководство по добыче полезных ископаемых
• Все комбинации оружия ближнего боя — Warhammer 40,000: Space Marine 2
• Какой пакт TWW выбрать?
• Warhammer 40,000: Space Marine 2: руководство – как быстро повысить уровень
• Где найти все инфопланшеты в Space Marine 2

2024-04-17 19:50