Логические процессоры что это

Логические процессоры что это?

Всем привет. Поговорим мы сегодня о таком как логические процессоры, узнаем что к чему. Значит логические процессоры это никакие не процессоры, и даже не ядра, это только потоки процессора. То есть еще раз — логические процессоры это не процессоры, не ядра, а только потоки. Одно ядро может иметь два потока, и вот в Windows эти потоки почему-то назвали логическими процессорами

Ну а теперь немного об этом всем поподробнее. Значит как я уже написал, одно ядро может иметь два потока. Если вообще эти потоки есть в процессоре, а их может не быть. Вот например взять процессоры Intel, раньше было как? Core i3 имел 2 ядра и 4 потока, i5 имел просто 4 ядра, а i7 имел 4 ядра и 8 потоков. Но это было раньше, теперь уже все смешалось, теперь у i3 идет 4 ядра, у i5 идет 6 ядер, а у i7 тоже 6 ядер но и при этом есть еще потоки, в итоге 12 потоков.. но это все я имею ввиду поколение процессоров Coffee Lake, и вообще это уже совсем другая история ребята…

Если потоки процессором поддерживаются, то знайте что на 1 ядро идет 2 потока. То есть сколько бы не было ядер, потоков будет в два раза больше. Ну так было всегда и наверно будет. Если потоки процессор не поддерживает, то 1 ядро будет иметь 1 поток, то есть ничего сверхьестественного не будет.

А вот у AMD вроде как потоки появились только недавно.. пришли они с серией Ryzen, но это так.. как бэ.. просто раньше у AMD были процессоры серии FX, и там как бы не было потоков, но вот в сети много говорили, что на самом деле то что AMD раньше считала ядрами, то у Intel считалось потоками. Вообще если брать производительность на ядро, то AMD раньше сильно проигрывала, но вот с серией Ryzen все изменилось.. но это тоже совсем другая история уже…

Ну а теперь посмотрим картинки, вот диспетчер задач где эти потоки и отображаются (вкладка Производительность, раздел ЦП):

Тут же в разделе ЦП есть шкала, которая показывает загрузку проца, и тут можно выбрать или чтобы показывалась общая загрузка или по отдельности, то есть по потокам. Собственно на этой картинке все понятно без слов:

Чтобы выбрать как показывать, то нужно нажать правой кнопкой по графику ну и выбрать.

Чтобы узнать так бы сказать максимум инфы, то есть узнать и потоки и количество ядер.. хотя все это и написано в диспетчере, но вот чтобы вообще много чего узнать о своем проце, то советую прогу CPU-Z — она бесплатная и маленькая:

Как видите то там внизу указано и количество ядер (Core) и количество потоков (Threads).

Вообще у Intel за потоки отвечает технология Hyper-Threading. Эта технология была еще давно, ну в Pentium 4 например она была уже. Но теперь конечно технологию уже прилично допилили и с потоками процессор как бэ все таки мощнее, чем без. Просто гуляет в интернете мнение, что потоки не особо повышают производительность. Но мое мнение что повышают, конечно это не полноценные ядра, но все же. Вот кстати картинка по поводу этой технологии:

А вы знаете что есть такой процессор серверный Xeon E5-2683 v3 с частотой 2 ГГц.. ну да.. частота не оч высокая, но у него 14 ядер, 28 потоков! Вот это да, ну и дела! Но это еще не все, есть серверные платы и там можно ставить.. как раз два процессора, не логических, а настоящие два процессора! И вот как это добро выглядит в диспетчере задач Windows 10:

28 ядер и 56 потоков, ну просто бомба! Даже не смотря на невысокую частоту, я думаю что все равно этот процессор мощный, ну а два их.. то вообще.. тоже хотел бы комп с двумя такими процессорами.

Ребята, а тут я еще такое нашел.. это просто нереальное что-то.. Короче смотрите.. я даже не знаю как это написать. Я просто напишу а вы прочтите молча.. Значит смотрите — 1 терабайт оперативки, 8 физических процессоров.. 160 логических процессоров.. вы себе это можете представить? 160 логических процессоров, даже если это все потоки, то реально будет 80 ядер.. и каждое из низ по 2.4 ГГц.. да, частота небольшая, но 80 ядер и все это я увидел вот тут:

Да, разумеется это не простой комп, это серверный. Но все равно.. мощь просто нереальная.. Правда наверно и света такой комп кушает прилично. Думаю что не меньше киловата, а то может и все два.. а два киловата это ребята прилично.. ну как чайник, только тут комп работает постоянно…

Кстати то гнездо куда ставится процессор, то оно называется сокет. Ну это так, просто вам на заметку.

Ну и бонус.. у вас есть потоки? Или несколько ядер? Знаете как сделать так, чтобы прога работала только на одном ядре или одном потоке, ну или на нескольких.. в общем идете в диспетчер, нажимаете по процессу правой кнопкой, выбираете там пункт Задать сходство:

И тут галочками отмечаете те ядра, на которых будет работать процесс:

Но вот как понять где тут ядра, а где потоки.. не знаю.. Хотя если подумать логически — 1 ядро имеет 2 потока. И смотрите, если у вас в процессоре 4 ядра и 8 потоков, то.. в окошке Соответствие процессоров если будет 4 пункта — значит это только ядра. Если 8 — значит это только потоки, не ядра и потоки, а только потоки. Ну и исходя из этого вы уже выбираете — 1 поток будет слабее одного ядра, а 2 потока уже чуть производительнее. Надеюсь вы поняли что я тут хотел вам сказать.

На этом все ребята, удачи вам и пусть у вас все будет хорошо, берегите себя!

Различия между физическими ядрами и логическими процессорами

Добрый день! Уважаемые подписчики и просто гости IT блога pyatilistnik.org. В прошлый раз мы с вами разобрали пошаговую установку Windows 11. В сегодняшнем посте мы поговорим про различия между физическими ядрами и логическими процессорами, так как у многих людей есть в этом путаница и закономерные вопросы, так как есть физические процессоры, ядра, потоки, переключатели контекста, логические процессоры, не говоря уже обо всех других аспектах, таких как кеш, TDP, тактовая частота.

Понимание разницы между физическими ядрами и логическими процессорами

Так в чем же разница между физическими ядрами и логическими процессорами? Что ж, как следует из названия, физические ядра — это просто физические единицы на процессоре. Принимая во внимание, что логические процессоры являются программной абстракцией.

Логические процессоры также связаны с потоками. Они поддерживаются технологией Hyper-Threading, встроенной в некоторые процессоры Intel (Hyper Transport на AMD). При включенной гиперпоточности вы фактически получаете два потока на ядро. Таким образом, если у вас есть 6-ядерный процессор, такой как процессор Intel Core i7-8750H, с включенной гиперпоточностью, вы, по сути, получаете 12 потоков, работающих одновременно. Поэтому можно сказать, что у вас 12 логических ядер.

логические ядра — это количество физических ядер, умноженное на количество потоков

Итак, давайте посмотрим, что означает каждый из этих терминов в отдельности.

Физические ядра против логических процессоров

Я часто встречал миф и заблуждение, что якобы логические процессоры увеличивают количество физических ядер, запомните это бред. Логический процессор НЕ увеличивает количество имеющихся у вас физических ядер. Логические процессоры — это всего лишь способ повысить эффективность ваших нынешних ядер. Они не увеличивают ни их количество, ни скорость, с которой они обрабатывают информацию.

Запомните следующее: Большее количество физических ядер ВСЕГДА лучше, чем большее количество логических ядер

У вас может возникнуть соблазн купить процессор с 2 физическими ядрами и 2 дополнительными потоками, что в сумме даст вам 4 логических процессора. Однако это не то же самое, что иметь 4 физических ядра.

Другими словами, двухъядерный процессор с поддержкой гиперпоточности менее мощный, чем четырехъядерный процессор без поддержки гиперпоточности.

Что Такое Ядро?

Ядро — это физический объект на процессоре. До того, как появились ядра, никогда не было беспокойства о том, сколько ядер у процессора, а сколько нет. Тогда у каждого процессора был один набор компонентов, таких как ALU, регистры, кеш и т. д. В настоящее время все стало довольно сложно. Почти все процессоры имеют как минимум два ядра. Каждое из ядер имеет отдельное ALU, регистры и кэш. Схематично, это выглядит вот так.

На этом изображении хорошо представлена ​​архитектура процессора. Как видите, этот процессор имеет четыре ядра, каждое из которых имеет собственный кэш. Внутри у каждого будет свой набор компонентов и схем.

Каждое ядро ​​может иметь скорость от базовой скорости 1 GHz до базовой скорости 3 GHz. Например, процессоры Intel Celeron имеют базовую частоту 1 GHz на ядро. С другой стороны, процессор Intel Core i7 может иметь базовую тактовую частоту около 3,5 GHz на ядро ​​и частоту Turbo 4,90 GHz на ядро.

Turbo Frequency срабатывает, когда вы выполняете ресурсоемкие задачи, такие как игры. Однако, когда процессор переходит в обычное состояние или при работе с нетребовательными задачами, такими как обработка текстов, он возвращается к базовой частоте. Это делается для уменьшения выделяемого тепла и потребляемой мощности.

Для чего придумали ядра?

Использование нескольких процессоров имело свои недостатки, потому что между каждым процессором была внешняя шина, поэтому скорость компьютера ограничивалась скоростью шины. Лучшим способом было включить несколько секций Core внутри одного чипа или кристалла. В этом случае чип все еще был похож на один ЦП с подключением питания, монтажом, радиатором и передней шиной, но имел несколько ядер. Это привело к появлению многоядерных процессоров, которые позволили достичь более высоких скоростей вычислений.

Еще одним важным ограничением сверхмощного процессора с одним процессором было тепловыделение и проблема с переключением контекста, основная идея заключается в том, что один ЦП выделял много тепла, потреблял гораздо больше энергии и страдал от низкой эффективности многозадачности.

Подкомпоненты Центрального Процессора

Выше я упомянул компоненты ЦП и его ядер, давайте я немного подробнее расскажу, о них.

1. ALU (Arithmetic Logic Unit — Арифметико-Логическое Устройство) — Это компонент ЦП, который выполняет математические, логические операции или операции принятия решений. Вы можете рассматривать АЛУ как самое сердце.
2. FPU (Floating Point Unit — Модуль С Плавающей Запятой) — Это вспомогательный компонент ALU, который выполняет математические операции над числами с плавающей запятой.
3. Регистры — Это компоненты хранения внутри ЦП, где данные и инструкции хранятся во время процесса выполнения. Регистры также хранят различные состояния, необходимые процессу выполнения.
4. Блок Управления (Control Unit) — Блок управления подобен оркестратору, который контролирует различные шаги, происходящие во время выполнения инструкций. Вы можете думать об этом как, о менеджере, который на самом деле заставляет все это работать внутри процессора.
5. Кэш — Современные процессоры также содержат кэш. Это дополнительная память внутри ЦП, которая используется для хранения инструкций и данных после выборки из ОЗУ. Кэш заполняется инструкциями и данными, которые считаются наиболее важными для предстоящего выполнения в ЦП. Это устраняет время выборки из ОЗУ, поскольку инструкции передаются в ЦП из кэша, который уже находится внутри ЦП. В свою очередь, это обеспечивает повышение общей производительности компьютера.
6. Фронтальная Шина (Front-Side-Bus) — Как вы видели, инструкции и данные перемещаются в ЦП и из него. Первоначально они находятся в ОЗУ и передаются в ЦП. В ЦП инструкции обрабатываются, а результат передается в ОЗУ. Передняя шина обеспечивает интерфейс или шлюз для этого потока информации.

Как работает процессор или ядро?

Ответ на вопрос «что такое ядро ​​в компьютере» не будет полностью понят, если вы не понимаете, как работает ядро ​​ЦП. Конечно, существует целая инженерная степень, основанная на этой концепции, поэтому подробное рассмотрение выходит за рамки этой статьи. Давайте посмотрим на то, что происходит с очень высокого уровня. Как упоминалось ранее, компьютерная программа представляет собой набор инструкций, которые выполняют задачи по запуску операционной системы и других приложений на компьютере.

Инструкции хранятся в ОЗУ, и каждая инструкция хранится по определенному адресу памяти внутри ОЗУ. Инструкции считываются ЦП, выполняются, а результат сохраняется в ОЗУ. Каждое ядро ​​в ЦП выполняет четыре основные функции в процессе выполнения инструкций:

1. Получить (Fetch ) — Инструкции извлекаются ЦП из ОЗУ.
2. Расшифровать (Decode) — Инструкции написаны на языке ассемблера, которые декодируются в двоичные слова (единицы и нули), потому что выполнение инструкций осуществляется как бинарные операции.
3. Выполнить (Execute) — Декодированные инструкции выполняются в ЦП.
4. Обратная Запись —

Результат выполнения инструкций сохраняется в оперативной памяти. Вместе вышеуказанные 4 функции, происходящие в одной и той же последовательности, называются командным циклом. Во время выполнения компьютерных программ циклы инструкций повторяются для каждой инструкции в программе. Каждое ядро ​​может обрабатывать цикл выборки и выполнения. Следовательно, чем больше у вас ядер, тем больше циклов команд может выполнить ЦП.

Зачем Так Много Ядер Вместо Одного Мощного Одноядерного Процессора?

Обычно так было до введения ядер. Например, Pentium II, флагманский процессор 1997 года, имел одно ядро. Он значительно улучшил тактовую частоту по сравнению с Pentium I. Точно так же Pentium III, флагманский процессор 1999 года, улучшил тактовую частоту Pentium II. Так зачем вводить больше ядер?

• Высокая Температура — В конце концов улучшение тактовой частоты достигло физического ограничения. Они просто не могли охлаждаться достаточно эффективно, чтобы поддерживать точную производительность. Кроме того, они просто будут потреблять много энергии, чтобы работать. Это породило ядра. Идея здесь заключалась в том, что два ядра, работающие на более медленных скоростях, будут потреблять меньше энергии и выделять меньше тепла по сравнению с одним ядром, работающим на сверхвысокой скорости.

• Многозадачность — Помимо проблем с нагревом, еще одной проблемой одноядерного процессора было отсутствие многозадачности. Есть такая штука, как Context Switch Overhead. Переключение контекста происходит, когда ЦП должен переключиться с одной задачи на другую. Поэтому, если вы печатаете что-то в Microsoft Word и вдруг переключаетесь на свой интернет-браузер, процессор должен переключиться на совершенно другой процесс. Это ухудшает производительность.

Следовательно, с точки зрения эффективности одноядерный процессор должен быть чрезвычайно быстрым и энергоемким, чтобы соответствовать производительности многоядерного процессора, работающего на более низкой тактовой частоте. По сути, он должен иметь возможность компенсировать накладные расходы на переключение контекста. Простейшие многоядерные процессоры могут обрабатывать столько потоков (процессов), сколько у них ядер.

• Потоки (Threads) — Здесь стоит определить потоки. Это довольно простая концепция, но необходимая для понимания того, что такое логические процессоры. Потоки (процессы) — это в основном набор данных, доставляемых определенной программой процессору. Для пояснения рассмотрим поток как единую программу, работающую на компьютере, такую ​​как Skype или Microsoft Word. Одноядерный процессор может одновременно обрабатывать только один поток. Таким образом, если вы переключитесь с потока Skype на поток Microsoft Word на одном ядре процессора, вы понесете штраф за переключение контекста.

Чтобы переключаться с одного потока на другой, одноядерный процессор должен быть чрезвычайно быстрым, чтобы обеспечить плавный переход. Никто не хочет, чтобы их компьютер тормозил. Таким образом, чтобы выполнить этот плавный переход, потребуется много энергии, чтобы компенсировать накладные расходы, вызванные переключением контекста. Это снова генерирует тепло. Однако многоядерные процессоры имеют несколько потоков. Каждое ядро ​​может обрабатывать отдельный набор данных из другой программы. Таким образом, в случае, когда у вас есть два ядра и две программы, работающие одновременно, каждое ядро ​​будет обрабатывать один поток отдельно. Поэтому переход между ними будет очень плавным.

Не говоря уже о том, что процессор будет работать прохладно и в то же время, потому что ядрам не придется беспокоиться о переключении, т.е. об удалении текущего потока и загрузке ресурсов следующего потока при переключении. Поэтому наличие нескольких ядер необходимо для многозадачности. Чем больше у вас потоков, тем больше одновременных задач вы можете выполнять.

Как правило, количество потоков = количеству ядер. ЕСЛИ ТОЛЬКО ваш процессор не поддерживает Hyper-Threading, в этом случае количество потоков > количество ядер

• Два сокета — то есть два физических процессора
• Ядра — 12 физических ядер
• 24 логических процесса

Логические Процессоры и Hyper-Threading

Теперь, когда у вас есть общее представление о том, что такое ядро ​​и поток, пришло время поговорить о том, что такое логические процессоры и каково их отношение к Hyper-Threading.

Логический процессор — это абстрактный процессор, созданный полностью из программного обеспечения. Однако операционная система ПРИНИМАЕТ это как отдельный физический процессор. По сути, если у вас есть процессор с включенной технологией Hyper-Threading, количество логических процессоров будет в два раза больше, чем физических ядер. В итоге у вас получается два потока на ядро. Обратите внимание, что не все процессоры Intel имеют функцию Hyper-Threading.

Проведем анатомическую аналогию, ваш «рот», который ест «еду» «двумя руками». Рот здесь представляет собой «ядро», а еда — «процесс/задачу». Если бы ваш рот был одноядерным процессором без включенной гиперпоточности, то то, как вы едите, выглядело бы примерно так:

Возьмите еду одной рукой и положите ее в рот
ПОДОЖДИТЕ, пока ее не разжевали
Убедитесь, что еда проглочена

Если бы ваш рот был одноядерным с включенной гиперпоточностью, то то, как вы едите, выглядело бы примерно так:

Возьмите еду одной рукой и положите ее в рот
Когда вы собираетесь закончить жевать, поднесите еду второй рукой ко рту.
Одновременно используйте первую руку, чтобы еще схватить еды.
И процесс продолжается

Следовательно, гиперпоточность или логические процессоры по существу планируют задачи на ядре. Это делает обработку задачи более эффективной. Это не обязательно делает ядро ​​быстрее, оно просто делает его более эффективным. Это, безусловно, НЕ удваивает количество ядер, которые у вас есть.

Всегда Ли Помогает Гиперпоточность?

Гиперпоточность не может помочь с однопоточными рабочими нагрузками. На самом деле, даже несколько ФИЗИЧЕСКИХ ядер не смогут помочь вам с однопоточными рабочими нагрузками. Например, старые игры печально известны тем, что используют только одно ядро ​​и один поток. Таким образом, гиперпоточность не будет иметь большого значения. Однако новые игры становятся все более и более многопоточными по своей природе.

С другой стороны, Hyper-Threading может творить чудеса с многопоточными рабочими нагрузками, такими как обработка изображений или рендеринг анимации. Если вы профессиональный редактор или дизайнер, то вам абсолютно необходимо использовать как можно больше физических ядер и убедиться, что он поддерживает технологию Hyper-threading, чтобы получить много логических процессоров.

Тактовая частота, тепловыделение и ядра

Компьютер является цифровым устройством. Работает в двоичных единицах и нулях. Эти единицы и нули представлены импульсами электрического напряжения, которые имеют чрезвычайно короткую продолжительность, обычно порядка 1–2 ГГц (гигагерц) или от 1 до 2 миллиардов импульсов в секунду (может достигать гораздо больших величин). Это также известно как тактовая частота. Чем больше число импульсов в секунду, тем больше тактовая частота и тем быстрее обработка. Другими словами, очень быстрые процессоры имеют высокую тактовую частоту.

Можно подумать, что для того, чтобы продолжать увеличивать скорость компьютеров, вы просто продолжаете увеличивать тактовую частоту, но это не так после определенного предела. Напомним, что один мощный процессор может выделять много тепла. Следовательно, ЦП разделен на ядра. Каждое ядро ​​имеет свою тактовую частоту. Итак, если вы видите четырехъядерный процессор с тактовой частотой 3,0 ГГц. В основном это означает, что КАЖДОЕ ЯДРО ЦП имеет тактовую частоту 3,0 ГГц.

Хотя одна статья не может полностью раскрыть эту очень сложную концепцию, я рекомендуем вам читать дальнейшие статьи. С вами был Иван Сёмин, автор и создатель IT портала Pyatilistnik.org.

Популярные Похожие записи:

• Как долго может проработать процессор?
• Как включить Receive Side Scaling (RSS) на сетевом интерфейсе
• Как установить диск в сервер Dell Power Edge R740xd
• Проверка совместимости компьютера с Windows 11, за минуту
• Что такое частота обновления монитора? (Полное руководство)
• Не грузится сервер Dell PowerEdge R740

Чем отличаются процессорные ядра, логические процессоры и потоки

При поиске процессора нужно учитывать многое. Ядра, потоки, тактовые частоты, кэш-память, потенциал разгона, рабочие температуры, TDP, IPC… список можно продолжать и продолжать.

Вполне естественно, что все эти спецификации могут сбивать с толку, когда речь заходит об их назначении.

В этой статье мы рассмотрим один из наиболее важных аспектов, связанных с производительностью процессора: его физические ядра, потоки и результирующие логические процессоры.

Что делает каждый из этих компонентов уникальным? Для чего они используются? Сколько вам нужно для ваших рабочих нагрузок?

И самое главное: работают ли потоки или логические процессоры так же, как ядра?

Что ж, прежде чем мы начнём, давайте подробнее рассмотрим, что они означают:

Что такое ядра центрального процессора

Ядро ЦП – это, собственно, и есть физическая форма процессора.

Хотя раньше процессоры работали только с одним ядром, современные процессоры преимущественно многоядерные. Это означает, что они имеют, по крайней мере, два или более ядра, установленных на кристалле интегральной схемы (или нескольких чипсетах), и поэтому могут обрабатывать две или более задач одновременно.

Обратите внимание, что каждое ядро может одновременно выполнять только одну задачу.

Если ядер ЦП недостаточно для количества обрабатываемых задач, происходит снижение производительности.

Это называется накладными расходами на переключение контекста. Чтобы ядро могло обрабатывать разные задачи, одну задачу нужно удалить, а следующую загрузить. Говоря иначе, Context Switch Overhead – это когда ЦП тратит много времени на переключение между задачами, а не на их обработку.

Это станет важным, когда мы посмотрим на потоки чуть ниже.

Что такое тактовая частота ядра?

Тактовая частота ядра является мерой его скорости обработки задач, которая не обязательно является мерой его общей производительности.

Если быть более точным, термин «тактовая частота» относится к количеству циклов вычислений, которые ядро выполняет в секунду. Этот показатель в настоящее время измеряется в гигагерцах: миллиарды циклов в секунду.

Причина, по которой тактовые частоты не являются единственным определяющим фактором производительности ЦП, заключается в том, что внутренняя архитектура – синергия между несколькими ядрами – и размер внутренних кэшей имеют первостепенное значение для обеспечения его общей производительности.

Один ЦП может обрабатывать больше за цикл, чем другой ЦП, просто из-за своей архитектуры.

Что такое базовая и повышенная тактовая частота?

Базовая тактовая частота ЦП – это минимальная частота, с которой ЦП будет работать в режиме ожидания или при обработке низкоуровневых рабочих нагрузок.

Напротив, тактовая частота Boost – это показатель того, насколько производительность ЦП может быть повышена при выполнении более ресурсоемких задач и процессов.

Тактовые частоты Boost применяются автоматически и ограничиваются результирующим теплом, которое может выдержать ЦП, прежде чем он достигнет небезопасного уровня операций (среди прочих факторов).

Ядра могут быть разогнаны с доступным запасом температуры и мощности. Когда это происходит, функция повышения тактовой частоты автоматически отключается или дросселируется.

Эта статья подробно рассматривает эту тему, если вы хотите узнать больше.

Лучше иметь больше ядер или меньше, более мощных ядер?

Ответ на этот вопрос зависит исключительно от типа рабочих нагрузок, с которыми будет работать ваш компьютер.

Если вы один из наших постоянных читателей, вы, скорее всего, знакомы с терминами «активные» и «пассивные» рабочие нагрузки.

Активные рабочие нагрузки относятся к любому процессу, который требует, чтобы пользователь вручную манипулировал данными или корректировал их в режиме реального времени для выполнения задачи.

Типичные примеры активных рабочих нагрузок включают взаимодействие с областью просмотра приложения в режиме реального времени в моушн-дизайне, 3D-моделировании, редактировании видео или играх.

С другой стороны, пассивные рабочие нагрузки – это задачи, которые обычно легко распараллеливаются и которые можно оставить без присмотра. В основном это относится к задачам рендеринга, таким как рендеринг CPU или GPU, рендеринг 3D, рендеринг видео.

Активные рабочие нагрузки

Активные рабочие нагрузки в большей степени зависят от высокой одноядерной производительности и повышенных тактовых частот. Следовательно, такие рабочие нагрузки потребуют меньшего количества, но более мощных ядер для более плавной работы в целом.

Пассивные рабочие нагрузки

Пассивные рабочие нагрузки выигрывают от большого количества ядер и более высоких базовых тактовых частот. Этим процессам потребуются процессоры с большим количеством ядер, такие как серия AMD Threadripper .

Что такое потоки процессора

Ещё одним аспектом, от которого выигрывают пассивные рабочие нагрузки, является большое количество потоков и возможности гиперпоточности.

Но, что это за «потоки»?

Поток в процессоре – это набор данных, который отправляется из приложения в ЦП для обработки.

Потоки не являются физическими компонентами ЦП, а скорее индикатором количества процессов, которые могут обрабатываться ядрами.

Помните про накладные расходы на переключение контекста, о которых мы говорили ранее в разделе «Ядра»?

Поскольку большая часть производительности ядра тратится на переключение между задачами, многопоточность создаёт несколько виртуальных ядер из каждого физического ядра (обычно два потока на ядро).

Это позволяет оптимизировать постановку задач в очередь и гораздо эффективнее использовать реальное ядро.

Возможность обработки нескольких потоков позволяет вашему процессору беспрепятственно переключаться между рабочими нагрузками и задачами.

Что такое гиперпоточность?

Гиперпоточность в процессорах Intel и SMT (одновременная многопоточность) в процессорах AMD – это названия процесса разделения физических ядер на виртуальные, что позволяет одному ядру более эффективно обрабатывать несколько потоков.

По сути, это способ планирования потоков, которые будут выполняться ядром без простоев. Это достигается путём подготовки потока к обработке во время выполнения другого потока.

На самом деле, Hyperthreading и SMT – это не одновременная обработка двух потоков одним физическим ядром, а эффективный способ подготовки двух потоков к оптимизированной обработке – по одному за раз.

Все ли процессоры поддерживают Hyperthreading или SMT?

Большинство процессоров имеют поддержку Hyperthreading или SMT и способны запускать два потока на ядро.

Однако есть некоторые процессоры, такие как процессоры Intel Celeron или AMD Ryzen 3 более низкого уровня, которые не поддерживают Hyperthreading или SMT и, следовательно, будут иметь только один поток, работающий на ядро.

Intel специально отключает поддержку Hyperthreading на некоторых процессорах более высокого уровня, в основном по причинам сегментации рынка, поэтому обязательно ознакомьтесь с описанием продукта для ядер и потоков, прежде чем покупать процессоры ещё более высокого уровня.

Являются ли потоки такими же быстрыми, как ядра?

Потоки не так быстры, как ядра.

Hyperthreading или SMT позволяет планировать задачи более эффективно, то есть они могут использовать части ядра, которые в настоящее время не обрабатывают задачу активно.

В лучшем случае потоки обеспечивают примерно на 50% большую производительность по сравнению с физическим ядром.

Вам нужен ЦП с поддержкой Hyperthreading или SMT?

Это зависит от вашей загруженности.

Поскольку задача всегда предпочтёт выполняться на свободном ядре, а не на свободном потоке (поскольку ядра быстрее, чем потоки), в зависимости от ваших типичных рабочих нагрузок вы можете вообще не использовать потоки ЦП.

Если вы выполняете активные рабочие нагрузки, такие как 3D-моделирование или игры, в течение обычного дня, скорее всего, вы не будете использовать все свои ядра, поскольку такие рабочие нагрузки не могут быть легко распараллелены и обычно выполняются только на одном или двух ядрах.

Тем не менее, для рабочих нагрузок, таких как рендеринг на ЦП, которые используют 100% ваших ядер, и легко используют все доступные потоки, наличие ЦП с поддержкой Hyperthreading или SMT может существенно повлиять на производительность.

Что такое логические процессоры

Теперь, когда мы рассмотрели, что такое ядра и потоки, определение логических процессоров стало гораздо более простой задачей.

Логические процессоры – это виртуализированные процессоры, к которым система может обращаться и получать к ним доступ. Логические процессоры – это просто мера того, сколько ядер операционная система видит и может адресовать.

Таким образом, это произведение (умножение) количества физических ядер на количество потоков, которые может обрабатывать каждое ядро.

Допустим, у вас есть 8-ядерный 8-поточный процессор. Количество логических процессоров у вас будет 8. Это значение является произведением количества физических ядер (8) и количества потоков, которые они могут обрабатывать (1).

Но что, если ваш процессор поддерживает гиперпоточность?

Что ж, тогда каждое ядро может обрабатывать два потока, поэтому 8-ядерный процессор будет иметь 8×2 = 16 логических процессоров.

Как узнать, сколько логических процессоров у вашего процессора?

Если вы хотите узнать, сколько логических процессоров имеет ваш ЦП, просто откройте диспетчер задач в ОС Windows (нажмите одновременно клавиши Ctrl + Shift + Esc ) и откройте вкладку Производительность, затем выделите вкладку ЦП и посмотрите на нижнюю правую часть окна.

Прямо под количеством ядер ЦП будет количество логических процессоров.

Логические процессоры против физических ядер

Что ценнее? Логические процессоры или физические ядра?

Это простой ответ: физические ядра.

Помните, что при многопоточности вы не обрабатываете два потока одновременно, вы просто планируете потоки так, чтобы одно физическое ядро могло обрабатывать их максимально эффективно.

Логические процессоры (или потоки) в лучшем случае обеспечат повышение производительности на 50% в рабочих нагрузках, которые хорошо распараллелены, таких как рендеринг ЦП.

Физические ядра продемонстрируют 100% прирост производительности в таких рабочих нагрузках.

В однопоточных рабочих нагрузках вы, скорее всего, вообще не увидите увеличения производительности при переключении с ЦП без поддержки потоков на ЦП с поддержкой потоков (при прочих равных условиях).

Выводы

Логические процессоры – это количество потоков ЦП, которые операционная система видит и может адресовать.

Поскольку ваш ПК всегда будет сначала планировать задачи на физических ядрах, прежде чем переходить к использованию потоков, наличие ЦП с Hyperthreading или SMT принесёт вам наибольшую пользу, если вы сможете использовать все ядра ЦП в рабочих нагрузках, таких как рендеринг на ЦП.

Вот упрощение: ваше ядро ЦП – это рот, а две руки – это потоки ядра. Задача, которая должна быть обработана: еда.

Если вы берёте еду в одну руку и кладете её в рот, затем пережевываете и глотаете, и только после того, как вы закончите это делать, вы протягиваете руку, чтобы взять ещё немного еды, рот «праздно ожидает», когда поступит ещё порция.

Это пустая трата времени обработки.

Двумя руками (двумя потоками) вторая рука уже может класть еду в рот для обработки, а первая рука искать следующую порцию.

Процессоры, ядра и потоки. Топология систем

В этой статье я попытаюсь описать терминологию, используемую для описания систем, способных исполнять несколько программ параллельно, то есть многоядерных, многопроцессорных, многопоточных. Разные виды параллелизма в ЦПУ IA-32 появлялись в разное время и в несколько непоследовательном порядке. Во всём этом довольно легко запутаться, особенно учитывая, что операционные системы заботливо прячут детали от не слишком искушённых прикладных программ.

Используемая далее терминология используется в документации процессорам Intel. Другие архитектуры могут иметь другие названия для похожих понятий. Там, где они мне известны, я буду их упоминать.

Цель статьи — показать, что при всём многообразии возможных конфигураций многопроцессорных, многоядерных и многопоточных систем для программ, исполняющихся на них, создаются возможности как для абстракции (игнорирования различий), так и для учёта специфики (возможность программно узнать конфигурацию).

Предупреждение о знаках ®, ™, © в статье

Мой комментарий объясняет, почему сотрудники компаний должны в публичных коммуникациях использовать знаки авторского права. В этой статье их пришлось использовать довольно часто.

Процессор

Конечно же, самый древний, чаще всего используемый и неоднозначный термин — это «процессор».

В современном мире процессор — это то (package), что мы покупаем в красивой Retail коробке или не очень красивом OEM-пакетике. Неделимая сущность, вставляемая в разъём (socket) на материнской плате. Даже если никакого разъёма нет и снять его нельзя, то есть если он намертво припаян, это один чип.

Мобильные системы (телефоны, планшеты, ноутбуки) и большинство десктопов имеют один процессор. Рабочие станции и сервера иногда могут похвастаться двумя или больше процессорами на одной материнской плате.

Поддержка нескольких центральных процессоров в одной системе требует многочисленных изменений в её дизайне. Как минимум, необходимо обеспечить их физическое подключение (предусмотреть несколько сокетов на материнской плате), решить вопросы идентификации процессоров (см. далее в этой статье, а также мою предыдущую заметку), согласования доступов к памяти и доставки прерываний (контроллер прерываний должен уметь маршрутизировать прерывания на несколько процессоров) и, конечно же, поддержки со стороны операционной системы. Я, к сожалению, не смог найти документального упоминания момента создания первой многопроцессорной системы на процессорах Intel, однако Википедия утверждает, что Sequent Computer Systems поставляла их уже в 1987 году, используя процессоры Intel 80386. Широко распространённой поддержка же нескольких чипов в одной системе становится доступной, начиная с Intel® Pentium.

Если процессоров несколько, то каждый из них имеет собственный разъём на плате. У каждого из них при этом имеются полные независимые копии всех ресурсов, таких как регистры, исполняющие устройства, кэши. Делят они общую память — RAM. Память может подключаться к ним различными и довольно нетривиальными способами, но это отдельная история, выходящая за рамки этой статьи. Важно то, что при любом раскладе для исполняемых программ должна создаваться иллюзия однородной общей памяти, доступной со всех входящих в систему процессоров.

К взлёту готов! Intel® Desktop Board D5400XS

Ядро

Исторически многоядерность в Intel IA-32 появилась позже Intel® HyperThreading, однако в логической иерархии она идёт следующей.

Казалось бы, если в системе больше процессоров, то выше её производительность (на задачах, способных задействовать все ресурсы). Однако, если стоимость коммуникаций между ними слишком велика, то весь выигрыш от параллелизма убивается длительными задержками на передачу общих данных. Именно это наблюдается в многопроцессорных системах — как физически, так и логически они находятся очень далеко друг от друга. Для эффективной коммуникации в таких условиях приходится придумывать специализированные шины, такие как Intel® QuickPath Interconnect. Энергопотребление, размеры и цена конечного решения, конечно, от всего этого не понижаются. На помощь должна прийти высокая интеграция компонент — схемы, исполняющие части параллельной программы, надо подтащить поближе друг к другу, желательно на один кристалл. Другими словами, в одном процессоре следует организовать несколько ядер, во всём идентичных друг другу, но работающих независимо.

Первые многоядерные процессоры IA-32 от Intel были представлены в 2005 году. С тех пор среднее число ядер в серверных, десктопных, а ныне и мобильных платформах неуклонно растёт.

В отличие от двух одноядерных процессоров в одной системе, разделяющих только память, два ядра могут иметь также общие кэши и другие ресурсы, отвечающие за взаимодействие с памятью. Чаще всего кэши первого уровня остаются приватными (у каждого ядра свой), тогда как второй и третий уровень может быть как общим, так и раздельным. Такая организация системы позволяет сократить задержки доставки данных между соседними ядрами, особенно если они работают над общей задачей.

Микроснимок четырёхядерного процессора Intel с кодовым именем Nehalem. Выделены отдельные ядра, общий кэш третьего уровня, а также линки QPI к другим процессорам и общий контроллер памяти.

Гиперпоток

До примерно 2002 года единственный способ получить систему IA-32, способную параллельно исполнять две или более программы, состоял в использовании именно многопроцессорных систем. В Intel® Pentium® 4, а также линейке Xeon с кодовым именем Foster (Netburst) была представлена новая технология — гипертреды или гиперпотоки, — Intel® HyperThreading (далее HT).

Ничто не ново под луной. HT — это частный случай того, что в литературе именуется одновременной многопоточностью (simultaneous multithreading, SMT). В отличие от «настоящих» ядер, являющихся полными и независимыми копиями, в случае HT в одном процессоре дублируется лишь часть внутренних узлов, в первую очередь отвечающих за хранение архитектурного состояния — регистры. Исполнительные же узлы, ответственные за организацию и обработку данных, остаются в единственном числе, и в любой момент времени используются максимум одним из потоков. Как и ядра, гиперпотоки делят между собой кэши, однако начиная с какого уровня — это зависит от конкретной системы.

Я не буду пытаться объяснить все плюсы и минусы дизайнов с SMT вообще и с HT в частности. Интересующийся читатель может найти довольно подробное обсуждение технологии во многих источниках, и, конечно же, в Википедии. Однако отмечу следующий важный момент, объясняющий текущие ограничения на число гиперпотоков в реальной продукции.

Ограничения потоков

В каких случаях наличие «нечестной» многоядерности в виде HT оправдано? Если один поток приложения не в состоянии загрузить все исполняющие узлы внутри ядра, то их можно «одолжить» другому потоку. Это типично для приложений, имеющих «узкое место» не в вычислениях, а при доступе к данным, то есть часто генерирующих промахи кэша и вынужденных ожидать доставку данных из памяти. В это время ядро без HT будет вынуждено простаивать. Наличие же HT позволяет быстро переключить свободные исполняющие узлы к другому архитектурному состоянию (т.к. оно как раз дублируется) и исполнять его инструкции. Это — частный случай приёма под названием latency hiding, когда одна длительная операция, в течение которой полезные ресурсы простаивают, маскируется параллельным выполнением других задач. Если приложение уже имеет высокую степень утилизации ресурсов ядра, наличие гиперпотоков не позволит получить ускорение — здесь нужны «честные» ядра.

Типичные сценарии работы десктопных и серверных приложений, рассчитанных на машинные архитектуры общего назначения, имеют потенциал к параллелизму, реализуемому с помощью HT. Однако этот потенциал быстро «расходуется». Возможно, по этой причине почти на всех процессорах IA-32 число аппаратных гиперпотоков не превышает двух. На типичных сценариях выигрыш от использования трёх и более гиперпотоков был бы невелик, а вот проигрыш в размере кристалла, его энергопотреблении и стоимости значителен.

Другая ситуация наблюдается на типичных задачах, выполняемых на видеоускорителях. Поэтому для этих архитектур характерно использование техники SMT с бóльшим числом потоков. Так как сопроцессоры Intel® Xeon Phi (представленные в 2010 году) идеологически и генеалогически довольно близки к видеокартам, на них может быть четыре гиперпотока на каждом ядре — уникальная для IA-32 конфигурация.

Логический процессор

Из трёх описанных «уровней» параллелизма (процессоры, ядра, гиперпотоки) в конкретной системе могут отсутствовать некоторые или даже все. На это влияют настройки BIOS (многоядерность и многопоточность отключаются независимо), особенности микроархитектуры (например, HT отсутствовал в Intel® Core™ Duo, но был возвращён с выпуском Nehalem) и события при работе системы (многопроцессорные сервера могут выключать отказавшие процессоры в случае обнаружения неисправностей и продолжать «лететь» на оставшихся). Каким образом этот многоуровневый зоопарк параллелизма виден операционной системе и, в конечном счёте, прикладным приложениям?

Далее для удобства обозначим количества процессоров, ядер и потоков в некоторой системе тройкой (x, y, z), где x — это число процессоров, y — число ядер в каждом процессоре, а z — число гиперпотоков в каждом ядре. Далее я буду называть эту тройку топологией — устоявшийся термин, мало что имеющий с разделом математики. Произведение p = xyz определяет число сущностей, именуемых логическими процессорами системы. Оно определяет полное число независимых контекстов прикладных процессов в системе с общей памятью, исполняющихся параллельно, которые операционная система вынуждена учитывать. Я говорю «вынуждена», потому что она не может управлять порядком исполнения двух процессов, находящихся на различных логических процессорах. Это относится в том числе к гиперпотокам: хотя они и работают «последовательно» на одном ядре, конкретный порядок диктуется аппаратурой и недоступен для наблюдения или управления программам.

Чаще всего операционная система прячет от конечных приложений особенности физической топологии системы, на которой она запущена. Например, три следующие топологии: (2, 1, 1), (1, 2, 1) и (1, 1, 2) — ОС будет представлять в виде двух логических процессоров, хотя первая из них имеет два процессора, вторая — два ядра, а третья — всего лишь два потока.

Windows Task Manager показывает 8 логических процессоров; но сколько это в процессорах, ядрах и гиперпотоках?

Linux top показывает 4 логических процессора.

Это довольно удобно для создателей прикладных приложений — им не приходится иметь дело с зачастую несущественными для них особенностями аппаратуры.

Программное определение топологии

Конечно, абстрагирование топологии в единственное число логических процессоров в ряде случаев создаёт достаточно оснований для путаницы и недоразумений (в жарких Интернет-спорах). Вычислительные приложения, желающие выжать из железа максимум производительности, требуют детального контроля над тем, где будут размещены их потоки: поближе друг к другу на соседних гиперпотоках или же наоборот, подальше на разных процессорах. Скорость коммуникаций между логическими процессорами в составе одного ядра или процессора значительно выше, чем скорость передачи данных между процессорами. Возможность неоднородности в организации оперативной памяти также усложняет картину.

Информация о топологии системы в целом, а также положении каждого логического процессора в IA-32 доступна с помощью инструкции CPUID. С момента появления первых многопроцессорных систем схема идентификации логических процессоров несколько раз расширялась. К настоящему моменту её части содержатся в листах 1, 4 и 11 CPUID. Какой из листов следует смотреть, можно определить из следующей блок-схемы, взятой из статьи [2]:

Я не буду здесь утомлять всеми подробностями отдельных частей этого алгоритма. Если возникнет интерес, то этому можно посвятить следующую часть этой статьи. Отошлю интересующегося читателя к [2], в которой этот вопрос разбирается максимально подробно. Здесь же я сначала кратко опишу, что такое APIC и как он связан с топологией. Затем рассмотрим работу с листом 0xB (одиннадцать в десятичном счислении), который на настоящий момент является последним словом в «апикостроении».

APIC ID

Local APIC (advanced programmable interrupt controller) — это устройство (ныне входящее в состав процессора), отвечающее за работу с прерываниями, приходящими к конкретному логическому процессору. Свой собственный APIC есть у каждого логического процессора. И каждый из них в системе должен иметь уникальное значение APIC ID. Это число используется контроллерами прерываний для адресации при доставке сообщений, а всеми остальными (например, операционной системой) — для идентификации логических процессоров. Спецификация на этот контроллер прерываний эволюционировала, пройдя от микросхемы Intel 8259 PIC через Dual PIC, APIC и xAPIC к x2APIC .

В настоящий момент ширина числа, хранящегося в APIC ID, достигла полных 32 бит, хотя в прошлом оно было ограничено 16, а ещё раньше — только 8 битами. Нынче остатки старых дней раскиданы по всему CPUID, однако в CPUID.0xB.EDX[31:0] возвращаются все 32 бита APIC ID. На каждом логическом процессоре, независимо исполняющем инструкцию CPUID, возвращаться будет своё значение.

Выяснение родственных связей

Значение APIC ID само по себе ничего не говорит о топологии. Чтобы узнать, какие два логических процессора находятся внутри одного физического (т.е. являются «братьями» гипертредами), какие два — внутри одного процессора, а какие оказались и вовсе в разных процессорах, надо сравнить их значения APIC ID. В зависимости от степени родства некоторые их биты будут совпадать. Эта информация содержится в подлистьях CPUID.0xB, которые кодируются с помощью операнда в ECX. Каждый из них описывает положение битового поля одного из уровней топологии в EAX[5:0] (точнее, число бит, которые нужно сдвинуть в APIC ID вправо, чтобы убрать нижние уровни топологии), а также тип этого уровня — гиперпоток, ядро или процессор, — в ECX[15:8].

У логических процессоров, находящихся внутри одного ядра, будут совпадать все биты APIC ID, кроме принадлежащих полю SMT. Для логических процессоров, находящихся в одном процессоре, — все биты, кроме полей Core и SMT. Поскольку число подлистов у CPUID.0xB может расти, данная схема позволит поддержать описание топологий и с бóльшим числом уровней, если в будущем возникнет необходимость. Более того, можно будет ввести промежуточные уровни между уже существующими.

Важное следствие из организации данной схемы заключается в том, что в наборе всех APIC ID всех логических процессоров системы могут быть «дыры», т.е. они не будут идти последовательно. Например, во многоядерном процессоре с выключенным HT все APIC ID могут оказаться чётными, так как младший бит, отвечающий за кодирование номера гиперпотока, будет всегда нулевым.

Отмечу, что CPUID.0xB — не единственный источник информации о логических процессорах, доступный операционной системе. Список всех процессоров, доступный ей, вместе с их значениями APIC ID, кодируется в таблице MADT ACPI [3, 4].

Операционные системы и топология

Операционные системы предоставляют информацию о топологии логических процессоров приложениям с помощью своих собственных интерфейсов.

В Linux информация о топологии содержится в псевдофайле /proc/cpuinfo , а также выводе команды dmidecode . В примере ниже я фильтрую содержимое cpuinfo на некоторой четырёхядерной системе без HT, оставляя только записи, относящиеся к топологии:

Скрытый текст

ggg@shadowbox:~$ cat /proc/cpuinfo |grep 'processor\|physical\ id\|siblings\|core\|cores\|apicid' processor : 0 physical id : 0 siblings : 4 core id : 0 cpu cores : 2 apicid : 0 initial apicid : 0 processor : 1 physical id : 0 siblings : 4 core id : 0 cpu cores : 2 apicid : 1 initial apicid : 1 processor : 2 physical id : 0 siblings : 4 core id : 1 cpu cores : 2 apicid : 2 initial apicid : 2 processor : 3 physical id : 0 siblings : 4 core id : 1 cpu cores : 2 apicid : 3 initial apicid : 3 

В FreeBSD топология сообщается через механизм sysctl в переменной kern.sched.topology_spec в виде XML:

Скрытый текст

user@host:~$ sysctl kern.sched.topology_spec kern.sched.topology_spec:  0, 1, 2, 3, 4, 5, 6, 7  0, 1, 2, 3, 4, 5, 6, 7  0, 1 THREAD groupSMT group  2, 3 THREAD groupSMT group  4, 5 THREAD groupSMT group  6, 7 THREAD groupSMT group       

В MS Windows 8 сведения о топологии можно увидеть в диспетчере задач Task Manager.

Скрытый текст

Также их предоставляет консольная утилита Sysinternals Coreinfo и API вызов GetLogicalProcessorInformation.

Полная картина

Проиллюстрирую ещё раз отношения между понятиями «процессор», «ядро», «гиперпоток» и «логический процессор» на нескольких примерах.

Система (2, 2, 2)

Система (2, 4, 1)

Система (4, 1, 1)

Прочие вопросы

В этот раздел я вынес некоторые курьёзы, возникающие из-за многоуровневой организации логических процессоров.

Кэши

Как я уже упоминал, кэши в процессоре тоже образуют иерархию, и она довольно сильно связано с топологией ядер, однако не определяется ей однозначно. Для определения того, какие кэши для каких логических процессоров общие, а какие нет, используется вывод CPUID.4 и её подлистов.

Лицензирование

Некоторые программные продукты поставляются числом лицензий, определяемых количеством процессоров в системе, на которой они будут использоваться. Другие — числом ядер в системе. Наконец, для определения числа лицензий число процессоров может умножаться на дробный «core factor», зависящий от типа процессора!

Виртуализация

Системы виртуализации, способные моделировать многоядерные системы, могут назначить виртуальным процессорам внутри машины произвольную топологию, не совпадающую с конфигурацией реальной аппаратуры. Так, внутри хозяйской системы (1, 2, 2) некоторые известные системы виртуализации по умолчанию выносят все логические процессоры на верхний уровень, т.е. создают конфигурацию (4, 1, 1). В сочетании с особенностями лицензирования, зависящими от топологии, это может порождать забавные эффекты.

Спасибо за внимание!

Литература

1. Intel Corporation. Intel® 64 and IA-32 Architectures Software Developer’s Manual. Volumes 1–3, 2014. www.intel.com/content/www/us/en/processors/architectures-software-developer-manuals.html
2. Shih Kuo. Intel® 64 Architecture Processor Topology Enumeration, 2012 — software.intel.com/en-us/articles/intel-64-architecture-processor-topology-enumeration
3. OSDevWiki. MADT. wiki.osdev.org/MADT
4. OSDevWiki. Detecting CPU Topology. wiki.osdev.org/Detecting_CPU_Topology_%2880×86%29