Постоянная память кэш память
Обновлено: 04.07.2024
В 80-е годы прошлого века скорость работы микропроцессоров возрастала экспоненциально с ростом скорости доступа к памяти. Очень быстро стало очевидно, что необходимо что-то предпринять чтобы повысить скорость доступа к памяти и таким образом увеличить эффективность работы всей системы. Такое несоответствие между скоростью обработки и скоростью памяти привели к развитию кэша в процессоре.
Что такое кэш
Изобретение кэша было одним из важнейших событий в истории информатики. Но что такое кэш и как именно он работает?
Если говорить простым языком, то кэш – это очень быстрый тип памяти, отличающийся небольшим объемом. Он содержит инструкции, которые скорее всего понадобятся компьютеру при выполнении определенной задачи. Компьютер загружает эту информацию в кэш, используя сложные алгоритмы и принципы работы программного кода. Цель системы кэша компьютера состоит в том, чтобы обеспечить беспрепятственный доступ ЦПУ к нужным для него данным в том порядке, в котором они ему необходимы.
Чтобы понять, как это все работает, вам необходимо знать, что компьютеры содержат три типа памяти. Во-первых, основная память для длительного хранения к которой относятся жесткие диски и SSD накопители. Она имеет самый большой объем из всех, но также и самая медленная. Во-вторых, это оперативная память или ОЗУ. Она значительно быстрее, но не имеет более скромный объем. И наконец специальный тип памяти, которых располагается в самом процессоре называется кэш. Кэша память самая быстрая из всех типов памяти.
Когда вы запускаете программу она начинает выполнять серию инструкций, записанных в ее коде. Эта информация сначала загружается в ОЗУ, а затем перемещается в центральный процессор. Чтобы наилучшим образом использовать данные для выполнения инструкций, ЦПУ требуется высокоскоростная память. Вот тут и появляется необходимость в кэше.
Уровни кэша
Для дальнейшего рассмотрения принципов работы кэша нам сперва необходимо рассказать о различных уровнях кэша. В процессорах существует три отличных уровня кэша – L1, L2 и L3. Вместе с тем некоторые компании работают даже над кэшем L4.
Кэш первого уровня L1 самый маленький, но и самый быстрый из трех. Он содержит данные, которые процессору наиболее всего потребуется для выполнения операций. Объем L1 обычно составляет около 256 КБ, хотя некоторые увеличивают его до 1 МБ. Этот небольшой кэш имеет двойное назначение – он служит как кэшем инструкций, так и и кэшем данных. Кэш инструкций имеет дело с операциями, которые ЦПУ должен выполнять, а кэш данных содержит информацию, по которой должен выполняться процесс.
Далее кэш второго уровня L2. Он медленнее и имеет больший объем, чем L1 - от 256 КБ до 8 МБ. В кэш помещается информация, которая скорее всего потребуется для процессора следующей. И наконец самый большой и самый медленный уровень кэша – L3. Он может хранить любую информацию и его объем обычно составляет примерно от 4 до 50 Мб.
Как работает кэш?
Когда программа запускается на вашем компьютере, данные из ОЗУ поступают в кэш L3, затем в L2 и, наконец, в L1. Во время работы программы ЦП ищет информацию, необходимую для запуска, начиная с кэша L1 и оттуда продолжая поиск в обратном направлении. Если процессор находит необходимую информацию, то это называется кэш попаданием. Если ЦП не может найти необходимую ему информацию, то происходит кэш промах и процессору приходится искать информацию в другом месте.
Задержка является важным фактором эффективности компьютера. Задержка - это время, необходимое для извлечения части информации. Кэш L1 является самым быстрым, и поэтому имеет самую низкую задержку. Когда происходит потеря кэш промах, то задержка увеличивается поскольку процессор должен продолжить поиск в разных уровнях кэшах, чтобы найти нужную информацию.
Современные процессоры имеют очень маленькую площадь транзисторов, что позволило встроить подсистему кэш непосредственно в чип. Физическое размещение кэша ближе к процессору уменьшает задержку.
Хотя и большой объем кэша не всегда является залогом быстродействия процессора, вам все равно стоит знать, как он работает и обращать на него внимание.
Одна из распространенных проблем, с которыми сталкиваются владельцы старых или бюджетных смартфонов и планшетов — это нехватка внутренней памяти. Подобное затруднение приводит к необходимости каждый раз выкраивать свободное пространство для новых приложений, а также делает невозможным установку обновлений имеющегося софта, что ведет к дестабилизации системы. Рассмотрим основные способы очистки памяти на Android-устройствах.
Посмотреть статистику загруженности внутренней памяти и SD-карты можно в разделе «Память» («Хранилище», «Накопители») настроек устройства, либо открыв приложение «Проводник», после чего уже переходить к очистке и оптимизации.
Очистка кэша
Большинство установленных на смартфоне или планшете приложений имеют собственную папку, где хранятся временные файлы (кэш), необходимые, как правило, для ускорения загрузки и экономии интернет-трафика. Ничего особо важного, типа данных для авторизации, в кэше обычно не хранится, поэтому можно смело его очищать. Для этого нужно открыть «Настройки» — «Память» — «Данные кэша» и в открывшемся окне нажать «Да». Очистка кэша может занять несколько минут.
Кэш некоторых приложений нельзя очистить таким образом, придется сделать это в персональном режиме. В браузере Google Chrome следует открыть «Настройки» — «Дополнительно» — «Личные данные» — «Очистить историю». Поставить здесь галочку возле «Изображения и другие файлы, сохраненные в кэше», выбрать период, например, «Все время» и нажать «Удалить данные».
Из приложений одним из самых прожорливых до постоянной памяти является Telegram. Если он установлен и имеется много подписок, стоит озаботиться оптимизаций его настроек. Открыть «Настройки» — «Данные и память» — «Использование памяти».
Установить «Хранить медиа» 3 дня. Затем произвести очистку кэша, нажав «Очистить кэш Telegram». В открывшемся окне можно выбрать, что конкретно нужно удалить, таким образом, чтобы не получилось конфликта с экономией трафика.
Перенос приложений на SD-карту
При наличии SD-карты и свободного места на ней, часть приложений можно перенести туда, если прошивка и версия Android это позволяют. Перенос доступен, как правило, для сторонних программ, установленных самим пользователем. Чтобы проверить доступность данной процедуры для конкретного приложения нужно открыть раздел «Приложения» в настройках устройства, выбрать в списке приложений нужное и нажать на него.
Если в открывшемся окне будет присутствовать кнопка «Перенести на: MicroSD» или аналогичная, значит перенос доступен и можно его осуществить нажав сюда. После переноса здесь появится кнопка «Перенести на: Память устройства», с помощью которой можно будет перенести приложение обратно на ПЗУ девайса.
В Android 5 и последних версиях операционной системы данная функция недоступна, однако здесь и в других версиях Android можно воспользоваться опцией выбора SD-карты в качестве основной (внутренней) памяти, после чего новые приложения и их обновления будут полностью или частично устанавливаться туда. Там же будут кэшироваться данные. При этом карта памяти отформатируется, соответственно, ее содержимое будет удалено. Для использования на другом устройстве ее снова придется отформатировать. Карту памяти для этого лучше использовать быструю, UHS-I или выше.
Для смены основной памяти открываем «Настройки» — «Хранилище» («Память», «Носители») — «SD-карта» — «Меню» — «Настройки хранилища».
Далее «Внутренняя память» — «SD-карта: форматировать».
Для того, чтобы перенести данные на отформатированную карту памяти, нажимаем на «SD-карта», далее «Меню» — «Перенести данные» — «Перенести контент».
Для превращения установленной в качестве внутренней памяти SD-карты в прежней формат, с возможностью использования на другом устройстве, вновь заходим в настройки «Хранилища», жмем «SD-карта» — «Меню» — «Портативный носитель» — «Форматировать». Соответственно, все ее содержимое будет ликвидировано.
Перенос файлов в облачное хранилище
После отправки в облако файлы можно удалить. В дальнейшем файлы доступны через приложение с любого устройства. Бесплатно сервисы предоставляют от нескольких Гб свободного места. Дополнительное пространство в облаке можно докупить за относительно небольшую плату.
Очистка с помощью сторонних приложений
Очистку памяти можно осуществить также с помощью одного из специальных приложений — например, CCleaner, KeepClean, AVG Cleaner. Перечисленные утилиты бесплатны в базовой версии и достаточно просты в использовании.
В программе CCleaner нужно открыть «Быструю очистку». После анализа хранилища отобразится все, что в принципе можно удалить для освобождения свободного места в ПЗУ. В разделе «Удаление безопасно» представлен в основном кэш приложений, который можно смело зачищать, в разделе «На ваше усмотрение» — различные файлы и данные. Выбираем подлежащее удалению и жмем «Завершить очистку». В платной Pro-версии CCleaner доступна автоматическая очистка по расписанию.
Когда вы открываете любые сайты, открытки, картинки, видео, их копии остаются в памяти браузера. Это происходит, даже если вы не скачиваете контент, а просто просматриваете. Как раз эти копии и называются кэшем. Он нужен для того, чтобы сократить количество запросов к сайтам. Например, через некоторое время вы вновь решите посмотреть страницу, которую открывали раньше. Кэш моментально загрузит ее с жесткого диска.
Кэширование работает практически во всех программах и приложениях. Некоторые данные очищаются автоматически, а другие копятся на жестком диске. Это создает дополнительную нагрузку на память устройства. Замедляется работа смартфона, ноутбука, компьютера. Интернет «зависает». Некоторые уверены: дело — в провайдере. Но даже если вы подключите самую высокую скорость (например, 1 Гб/с от МТС ), сайты все равно не будут грузиться быстрее, пока вы не очистите кэш.
Как чистить кэш, сколько раз в месяц это нужно делать
Самый простой способ очистить кэш — перезагрузить устройство. Речь идет не только о компьютерах и смартфонах, но и о wi-fi роутерах, и его модель не имеет значения. Даже самые современные и мощные маршрутизаторы от Ростелеком или Билайн нуждаются в регулярной перезагрузке (примерно, раз в месяц).
Рассказываем, как чистить кэш на Android:
- Откройте настройки смартфона.
- Перейдите в раздел «Устройство».
- Выберите вкладку «память» или «хранилище» (в зависимости от модели смартфона).
- Кликните на «данные кэша» или «cache».
- Нажмите «Очистить» либо «clear cache».
- Подтвердите действие.
Как очистить кэш на iOS:
- Откройте настройки.
- Найдите вкладку браузера Safari.
- Нажмите на вкладку и выберите «Очистить историю и данные».
- Подтвердите действие.
Имейте в виду: вместе с кэшем в айфоне удалится вся история посещений.
Как очистить кэш на компьютере или ноутбуке
Кэш на компьютере обычно чистят через данные локального диска:
- Откройте системный диск (как правило это локальный диск C).
- Кликните по нему правой кнопкой мышки и выберите вкладку «Свойства».
- В разделе «Общие» есть пункт «Очистка диска». Нажмите на эту кнопку.
- Выберите «Очистить системные файлы». Поставьте галочки напротив основных разделов, где хранится кэш:
— временные файлы интернета;
— файлы для отчетов об ошибках;
- Нажмите «Ок» и дождитесь, пока система удалит ненужные данные.
Процесс может занять некоторое время.
Есть еще один вариант: очистить кэш не в самом устройстве, а в браузере. Зайдите в тот, которым обычно пользуетесь (Mozilla Firefox, Google Chrome, Opera). Нажмите в правом верхнем углу на три точки или три горизонтальные полоски (в разных браузерах разные значки). Откроются настройки. Найдите вкладку «История» и нажмите «Очистить». Хотите, чтобы некоторые сайты сохранились в памяти? Добавьте их в закладки (для этого зайдите на страницу и нажмите комбинацию клавиш Ctrl+D).
Если статья оказалась полезной, не забывайте ставить лайк. Подписывайтесь на наш канал и узнавайте еще больше полезного о домашнем и мобильном интернете.
Во всех центральных процессорах любого компьютера, будь то дешёвый ноутбук или сервер за миллионы долларов, есть устройство под названием «кэш». И с очень большой вероятностью он обладает несколькими уровнями.
Наверно, он важен, иначе зачем бы его устанавливать? Но что же делает кэш, и для чего ему разные уровни? И что означает «12-канальный ассоциативный кэш» (12-way set associative)?
Что такое кэш?
TL;DR: это небольшая, но очень быстрая память, расположенная в непосредственной близости от логических блоков центрального процессора.
Однако мы, разумеется, можем узнать о кэше гораздо больше…
Давайте начнём с воображаемой волшебной системы хранения: она бесконечно быстра, может одновременно обрабатывать бесконечное количество операций передачи данных и всегда обеспечивает надёжное и безопасное хранение данных. Конечно же, ничего подобного и близко не существует, однако если бы это было так, то структура процессора была бы гораздо проще.
Процессорам бы тогда требовались только логические блоки для сложения, умножения и т.п, а также система управления передачей данных, ведь наша теоретическая система хранения способна мгновенно передавать и получать все необходимые числа; ни одному из логических блоков не приходится простаивать в ожидании передачи данных.
Но, как мы знаем, такой волшебной технологии хранения не существует. Вместо неё у нас есть жёсткие диски или твердотельные накопители, и даже самые лучшие из них далеки от возможностей обработки, необходимых для современного процессора.
Великий Т'Фон хранения данных
Причина этого заключается в том, что современные процессоры невероятно быстры — им требуется всего один тактовый цикл для сложения двух 64-битных целочисленных значений; если процессор работает с частотой 4 ГГЦ, то это составляет всего 0,00000000025 секунды, или четверть наносекунды.
В то же время, вращающемуся жёсткому диску требуются тысячи наносекунд только для нахождения данных на дисках, не говоря уже об их передаче, а твердотельным накопителям — десятки или сотни наносекунд.
Очевидно, что такие приводы невозможно встроить внутрь процессоров, поэтому между ними будет присутствовать физическое разделение. Поэтому ещё добавляется время на перемещение данных, что усугубляет ситуацию.
Увы, но это Великий А'Туин хранения данных
Именно поэтому нам нужна ещё одна система хранения данных, расположенная между процессором и основным накопителем. Она должна быть быстрее накопителя, способна одновременно управлять множеством операций передачи данных и находиться намного ближе к процессору.
Ну, у нас уже есть такая система, и она называется ОЗУ (RAM); она присутствует в каждом компьютере и выполняет именно эту задачу.
Почти все такие хранилища имеют тип DRAM (dynamic random access memory); они способны передавать данные гораздо быстрее, чем любой накопитель.
Однако, несмотря на свою огромную скорость, DRAM не способна хранить такие объёмы данных.
Одни из самых крупных чипов памяти DDR4, разработанных Micron, хранят 32 Гбит, или 4 ГБ данных; самые крупные жёсткие диски хранят в 4 000 раз больше.
Итак, хоть мы и повысили скорость нашей сети данных, нам потребуются дополнительные системы (аппаратные и программные), чтобы разобраться, какие данные должны храниться в ограниченном объёме DRAM, готовые к обработке процессором.
DRAM могут изготавливаться в корпусе чипа (это называется встроенной (embedded) DRAM). Однако процессоры довольно малы, поэтому в них не удастся поместить много памяти.
10 МБ DRAM слева от графического процессора Xbox 360. Источник: CPU Grave Yard
Подавляющее большинство DRAM расположено в непосредственной близости от процессора, подключено к материнской плате и всегда является самым близким к процессору компонентом. Тем не менее, эта память всё равно недостаточно быстра…
DRAM требуется примерно 100 наносекунд для нахождения данных, но, по крайней мере, она способна передавать миллиарды битов в секунду. Похоже, нам нужна ещё одна ступень памяти, которую можно разместить между блоками процессора и DRAM.
На сцене появляется оставшаяся ступень: SRAM (static random access memory). DRAM использует микроскопические конденсаторы для хранения данных в виде электрического заряда, а SRAM для той же задачи применяет транзисторы, которые работают с той же скоростью, что и логические блоки процессора (примерно в 10 раз быстрее, чем DRAM).
Разумеется, у SRAM есть недостаток, и он опять-таки связан с пространством.
Память на основе транзисторов занимает гораздо больше места, чем DRAM: в том же размере, что чип DDR4 на 4 ГБ, можно получить меньше 100 МБ SRAM. Но поскольку она производится по тому же технологическому процессу, что и CPU, память SRAM можно встроить прямо внутрь процессора, максимально близко к логическим блокам.
С каждой дополнительной ступенью мы увеличивали скорость перемещаемых данных ценой хранимого объёма. Мы можем продолжить и добавлять новые ступени,, которые будут быстрее, но меньше.
И так мы добрались до более строгого определения понятия кэша: это набор блоков SRAM, расположенных внутри процессора; они обеспечивают максимальную занятость процессора благодаря передаче и сохранению данных с очень высокими скоростями. Вас устраивает такое определение? Отлично, потому что дальше всё будет намного сложнее!
Кэш: многоуровневая парковка
На приведённом выше изображении процессор (CPU) обозначен прямоугольником с пунктирной границей. Слева расположены ALU (arithmetic logic units, арифметико-логические устройства); это структуры, выполняющие математические операции. Хотя строго говоря, они не являются кэшем, ближайший к ALU уровень памяти — это регистры (они упорядочены в регистровый файл).
Каждый из них хранит одно число, например, 64-битное целое число; само значение может быть элементом каких-нибудь данных, кодом определённой инструкции или адресом памяти каких-то других данных.
Регистровый файл в десктопных процессорах довольно мал, например, в каждом из ядер Intel Core i9-9900K есть по два банка таких файлов, а тот, который предназначен для целых чисел, содержит всего 180 64-битных целых чисел. Другой регистровый файл для векторов (небольших массивов чисел) содержит 168 256-битных элементов. То есть общий регистровый файл каждого ядра чуть меньше 7 КБ. Для сравнения: регистровый файл потоковых мультипроцессоров (так в GPU называются аналоги ядер CPU) Nvidia GeForce RTX 2080 Ti имеет размер 256 КБ.
Регистры, как и кэш, являются SRAM, но их скорость не превышает скорость обслуживаемых ими ALU; они передают данные за один тактовый цикл. Но они не предназначены для хранения больших объёмов данных (только одного элемента), поэтому рядом с ними всегда есть более крупные блоки памяти: это кэш первого уровня (Level 1).
Одно ядро процессора Intel Skylake. Источник: Wikichip
На изображении выше представлен увеличенный снимок одного из ядер десктопного процессора Intel Skylake.
ALU и регистровые файлы расположены слева и обведены зелёной рамкой. В верхней части фотографии белым обозначен кэш данных первого уровня (Level 1 Data cache). Он не содержит много информации, всего 32 КБ, но как и регистры, он расположен очень близко к логическим блокам и работает на одной скорости с ними.
Ещё одним белым прямоугольником справа показан кэш инструкций первого уровня (Level 1 Instruction cache), тоже имеющий размер 32 КБ. Как понятно из названия, в нём хранятся различные команды, готовые к разбиению на более мелкие микрооперации (обычно обозначаемые μops), которые должны выполнять ALU. Для них тоже существует кэш, который можно классифицировать как Level 0, потому что он меньше (содержит всего 1 500 операций) и ближе, чем кэши L1.
Вы можете задаться вопросом: почему эти блоки SRAM настолько малы? Почему они не имеют размер в мегабайт? Вместе кэши данных и инструкций занимают почти такую же площадь на чипе, что основные логические блоки, поэтому их увеличение приведёт к повышению общей площади кристалла.
Но основная причина их размера в несколько килобайт заключается в том, что при увеличении ёмкости памяти повышается время, необходимое для поиска и получения данных. Кэшу L1 нужно быть очень быстрым, поэтому необходимо достичь компромисса между размером и скоростью — в лучшем случае для получения данных из этого кэша требуется около 5 тактовых циклов (для значений с плавающей запятой больше).
Кэш L2 процессора Skylake: 256 КБ SRAM
Но если бы это был единственный кэш внутри процессора, то его производительность наткнулась бы на неожиданное препятствие. Именно поэтому в ядра встраивается еще один уровень памяти: кэш Level 2. Это обобщённый блок хранения, содержащий инструкции и данные.
Он всегда больше, чем Level 1: в процессорах AMD Zen 2 он занимает до 512 КБ, чтобы кэши нижнего уровня обеспечивались достаточным объёмом данных. Однако большой размер требует жертв — для поиска и передачи данных из этого кэша требуется примерно в два раза больше времени по сравнению с Level 1.
Во времена первого Intel Pentium кэш Level 2 был отдельным чипом, или устанавливаемым на отдельной небольшой плате (как ОЗУ DIMM), или встроенным в основную материнскую плату. Постепенно он перебрался в корпус самого процессора, и, наконец, полностью интегрировался в кристалл чипа; это произошло в эпоху таких процессоров, как Pentium III и AMD K6-III.
За этим достижением вскоре последовал ещё один уровень кэша, необходимый для поддержки более низких уровней, и появился он как раз вовремя — в эпоху расцвета многоядерных чипов.
Чип Intel Kaby Lake. Источник: Wikichip
На этом изображении чипа Intel Kaby Lake в левой части показаны четыре ядра (интегрированный GPU занимает почти половину кристалла и находится справа). Каждое ядро имеет свой «личный» набор кэшей Level 1 и 2 (выделены белыми и жёлтым прямоугольниками), но у них также есть и третий комплект блоков SRAM.
Кэш третьего уровня (Level 3), хоть и расположен непосредственно рядом с одним ядром, является полностью общим для всех остальных — каждое ядро свободно может получать доступ к содержимому кэша L3 другого ядра. Он намного больше (от 2 до 32 МБ), но и намного медленнее, в среднем более 30 циклов, особенно когда ядру нужно использовать данные, находящиеся в блоке кэша, расположенного на большом расстоянии.
Ниже показано одно ядро архитектуры AMD Zen 2: кэши Level 1 данных и инструкций по 32 КБ (в белых прямоугольниках), кэш Level 2 на 512 КБ (в жёлтых прямоугольниках) и огромный блок кэша L3 на 4 МБ (в красном прямоугольнике).
Увеличенный снимок одного ядра процессора AMD Zen 2. Источник: Fritzchens Fritz
Но постойте: как 32 КБ могут занимать больше физического пространства чем 512 КБ? Если Level 1 хранит так мало данных, почему он непропорционально велик по сравнению с кэшами L2 и L3?
Не только числа
Кэш повышает производительность, ускоряя передачу данных в логические блоки и храня поблизости копию часто используемых инструкций и данных. Хранящаяся в кэше информация разделена на две части: сами данные и место, где они изначально располагаются в системной памяти/накопителе — такой адрес называется тег кэша (cache tag).
Когда процессор выполняет операцию, которой нужно считать или записать данные из/в память, то он начинает с проверки тегов в кэше Level 1. Если нужные данные там есть (произошло кэш-попадание (cache hit)), то доступ к этим данным выполняется почти сразу же. Промах кэша (cache miss) возникает, если требуемый тег не найден на самом нижнем уровне кэша.
В кэше L1 создаётся новый тег, а за дело берётся остальная часть архитектуры процессора выполняющая поиск в других уровнях кэша (при необходимости вплоть до основного накопителя) данных для этого тега. Но чтобы освободить пространство в кэше L1 под этот новый тег, что-то обязательно нужно перебросить в L2.
Это приводит к почти постоянному перемешиванию данных, выполняемому всего за несколько тактовых циклов. Единственный способ добиться этого — создание сложной структуры вокруг SRAM для обработки управления данными. Иными словами, если бы ядро процессора состояло всего из одного ALU, то кэш L1 был бы гораздо проще, но поскольку их десятки (и многие из них жонглируют двумя потоками инструкций), то для перемещения данных кэшу требуется множество соединений.
Для изучения информации кэша в процессоре вашего компьютера можно использовать бесплатные программы, например CPU-Z. Но что означает вся эта информация? Важным элементом является метка set associative (множественно-ассоциативный) — она указывает на правила, применяемые для копирования блоков данных из системной памяти в кэш.
Представленная выше информация кэша относится к Intel Core i7-9700K. Каждый из его кэшей Level 1 разделён на 64 небольших блока, называемые sets, и каждый из этих блоков ещё разбит на строки кэша (cache lines) (размером 64 байта). «Set associative» означает, что блок данных из системы привязывается к строкам кэша в одном конкретном сете, и не может свободно привязываться к какому-то другому месту.
Инклюзивный кэш L1+L2, victim cache L3, политики write-back, есть даже ECC. Источник: Fritzchens Fritz
Ещё один аспект сложности кэша связан с тем, как хранятся данные между разными уровнями. Правила задаются в inclusion policy (политике инклюзивности). Например, процессоры Intel Core имеют полностью инклюзивные кэши L1+L3. Это означает, что одни данные в Level 1, например, могут присутствовать в Level 3. Может показаться, что это пустая трата ценного пространства кэша, однако преимущество заключается в том, что если процессор совершает промах при поиске тега в нижнем уровне, ему не потребуется обыскивать верхний уровень для нахождения данных.
В тех же самых процессорах кэш L2 неинклюзивен: все хранящиеся там данные не копируются ни на какой другой уровень. Это экономит место, но приводит к тому, что системе памяти чипа нужно искать ненайденный тег в L3 (который всегда намного больше). Victim caches (кэши-жертвы) имеют похожий принцип, но они используются для хранения информации, переносимой с более низких уровней. Например, процессоры AMD Zen 2 используют victim cache L3, который просто хранит данные из L2.
Существуют и другие политики для кэша, например, при которых данные записываются и в кэш, и основную системную память. Они называются политиками записи (write policies); большинство современных процессоров использует кэши write-back — это означает, что когда данные записываются на уровень кэшей, происходит задержка перед записью их копии в системную память. Чаще всего эта пауза длится в течение того времени, пока данные остаются в кэше — ОЗУ получает эту информацию только при «выталкивании» из кэша.
Графический процессор Nvidia GA100, имеющий 20 МБ кэша L1 и 40 МБ кэша L2
Для проектировщиков процессоров выбор объёма, типа и политики кэшей является вопросом уравновешивания стремления к повышению мощности процессора с увеличением его сложности и занимаемым чипом пространством. Если бы можно было создать 1000-канальные ассоциативные кэши Level 1 на 20 МБ такими, чтобы они при этом не занимали площадь Манхэттена (и не потребляли столько же энергии), то у нас у всех бы были компьютеры с такими чипами!
Самый нижний уровень кэшей в современных процессорах за последнее десятилетие практически не изменился. Однако кэш Level 3 продолжает расти в размерах. Если бы десять лет назад у вас было 999 долларов на Intel i7-980X, то вы могли бы получить кэш размером 12 МБ. Сегодня за половину этой суммы можно приобрести 64 МБ.
Подведём итог: кэш — это абсолютно необходимое и потрясающее устройство. Мы не рассматривали другие типы кэшей в CPU и GPU (например, буферы ассоциативной трансляции или кэши текстур), но поскольку все они имеют такую же простую структуру и расположение уровней, разобраться в них будет несложно.
Был ли у вас компьютер с кэшем L2 на материнской плате? Как насчёт слотовых Pentium II и Celeron (например, 300a) на дочерних платах? Помните свой первый процессор с общим L3?
На правах рекламы
Наша компания предлагает в аренду серверы с процессорами от Intel и AMD. В последнем случае — это эпичные серверы! VDS с AMD EPYC, частота ядра CPU до 3.4 GHz. Максимальная конфигурация — 128 ядер CPU, 512 ГБ RAM, 4000 ГБ NVMe.
Читайте также: