Слайд 1
иерархия память кем-память ОЗУ внешняя память
**Ключевая идея:** идеальной памяти не существует — нельзя одновременно получить быстродействие регистров, объём HDD и цену магнитной ленты. Поэтому архитектура компьютера строится как **пирамида компромиссов**.
Слайд 2
**Регистры и сверхбыстрая память процессора**
**Что такое регистр:** сверхбыстрая ячейка памяти внутри ядра процессора, напрямую доступная АЛУ. Регистры — вершина пирамиды, «рабочий стол» процессора.
**Типы регистров (x86-64 как пример):**
**Регистры общего назначения** (RAX, RBX, RCX…; в ARM — X0–X30) — операнды арифметики и логики.
**Указатель стека (RSP)** и **указатель базы (RBP)** — работа с вызовами функций.
**Регистр флагов (RFLAGS)** — результаты сравнений, условия переходов.
**Счётчик команд (RIP)** — адрес следующей инструкции.
**Векторные/SSE/AVX-регистры** — SIMD-вычисления (128/256/512 бит).
**Специальные** — управляющие (CR0–CR4), отладочные, MSR.
**Почему они не заменяют остальную память:**
**Мало:** 16–32 архитектурных регистра общего назначения (плюс скрытые физические в регистровом файле — сотни).
**Дорого:** регистровый файл занимает заметную площадь кристалла и потребляет энергию; увеличивать его — значит терять частоту.
**Нет адресуемости:** к регистру нельзя обратиться «по адресу из массива» — компилятор распределяет их статически (register allocation).
**Время доступа:** фактически 0 тактов — операнд читается в том же такте, что и выполняется инструкция. Именно поэтому оптимизирующие компиляторы отчаянно борются за то, чтобы «горячие» переменные жили в регистрах, а не в памяти.
**Интересный факт:** переименование регистров (register renaming) в современных CPU позволяет исполнять инструкции вне порядка — физических регистров гораздо больше, чем видит программист.
Слайд 3
**Кэш-память: назначение и принцип работы**
**Проблема, которую решает кэш:** процессор работает на частоте \~3–5 ГГц (такт \~0,2–0,3 нс), а ОЗУ отвечает за \~60–100 нс. Без кэша CPU простаивал бы **сотни тактов** на каждое обращение к памяти. Кэш «скрывает» этот разрыв.
**Базовые понятия:**
**Кэш-линия (блок)** — минимальная единица обмена, обычно **64 байта**. Кэш никогда не читает 1 байт — он тянет целую линию (используя пространственную локальность).
**Кэш-тег** — часть адреса, по которой проверяется, лежит ли нужная линия в кэше.
**Hit (попадание)** — данные найдены в кэше → доступ за \~1–40 нс.
**Miss (промах)** — данных нет → нужно идти на следующий уровень (L2, L3, ОЗУ) → десятки-сотни тактов простоя.
**Три типа промахов (модель 3C):**
1. **Compulsory (обязательные)** — первое обращение к данным, их ещё никто не читал.
2. **Capacity (по объёму)** — рабочих данных больше, чем вмещает кэш.
3. **Conflict (по конфликту)** — разные адреса претендуют на одно и то же место в кэше (проблема ассоциативности).
**Что происходит при промахе (упрощённо):**
1. CPU отправляет адрес в L1 → промах.
2. Запрос уходит в L2 → промах → в L3 → промах.
3. Контроллер памяти читает линию из DRAM.
4. Линия заполняется в L3, затем L2, затем L1 (инклюзивная/эксклюзивная политика — зависит от архитектуры).
5. Вытесненная «жертва» может быть записана обратно (write-back) или отброшена (write-through).
Слайд 4
**Уровни кэш-памяти (L1, L2, L3)**
**Зачем несколько уровней:** один большой и быстрый кэш построить нельзя (площадь, энергия, задержки растут с размером). Поэтому — каскад: маленький и молниеносный → средний → большой и общий**Ключевые детали:**
**L1 делится на I-cache (инструкции) и D-cache (данные)** — гарвардская архитектура на уровне L1; L2/L3 обычно унифицированы.
**Разделяемый L3** — «командный» кэш: ядра обмениваются через него данными без обращения к ОЗУ (важно для многоядерности).
**Инклюзивный vs эксклюзивный кэш:** в инклюзивном L3 содержит копии всего, что есть в L1/L2 (легче когерентность, но тратится место); в эксклюзивном — только то, чего нет ниже (эффективнее по объёму).
**Когерентность кэшей (MESI/MOESI)** — протоколы, гарантирующие, что ядра не видят устаревшие копии данных друг друга.
**Почему это важно на практике:** в играх и HPC именно **промахи в L3** бьют по FPS; поэтому AMD 3D V-Cache (увеличенный L3) даёт ощутимый прирост в симуляторах и стратегиях. Компиляторы и программисты оптимизируют «cache-friendly» обход данных (blocking, tiling)
Слайд 5
**Оперативная память (ОЗУ): устройство и роль**
**Роль ОЗУ:** основное рабочее пространство — здесь живут исполняемые программы и их данные. ОЗУ — «письменный стол» системы: достаточно большое и достаточно быстрое, но энергозависимое.
**Устройство DRAM-ячейки:**
**1 транзистор + 1 конденсатор** (1T1C). Конденсатор хранит заряд = бит.
Заряд **утекает** → нужна **регенерация (refresh)** каждые \~64 мс: контроллер памяти периодически перечитывает и перезаписывает строки. Это одна из причин, почему DRAM медленнее SRAM.
**Деструктивное чтение:** чтение ячейки разрушает заряд, поэтому после чтения — перезапись.**Структура модуля и характеристики:**
**Банки, строки, столбцы:** строка (row) активируется целиком — потому и важен **row buffer hit** (последовательный доступ быстрее случайного).
**Основные параметры:**
**Объём** (8–128 ГБ).
**Частота / пропускная способность** (DDR4-3200, DDR5-6000 МТ/с).
**Тайминги** (CL, tRCD, tRP, tRAS) — задержки в тактах.
**Каналы** (dual-channel, quad-channel) — параллелизм.
**Поколения:** DDR4 → DDR5 (удвоенная частота, встроенный ECC, два независимых подканала на модуль).
**ECC-память** — коррекция ошибок, критична для серверов.
**Почему ОЗУ не заменяет кэш:** слишком медленная (\~100 нс = сотни тактов) и энергозависимая. Почему не заменяет SSD: слишком дорогая на гигабайт и теряет данные без питания.
Слайд 6
**Внешняя память: HDD, SSD и энергонезависимость**
**Роль:** долговременное хранение данных, которые должны пережить выключение питания. Самый дешёвый в пересчёте на гигабайт, но самый медленный уровень.
**HDD (жёсткий магнитный диск):**
Магнитные пластины, вращающиеся на 5400–15000 об/мин, и подвижная головка на актуаторе.
**Механика = задержки:** seek time (перемещение головки, \~3–10 мс) + rotational latency (полуоборот, \~2–6 мс) + transfer.
Последовательное чтение — десятки–сотни МБ/с; случайное — катастрофически медленное (десятки IOPS).
Плюсы: ёмкость, цена/ГБ, ресурс перезаписи. Минусы: шум, удары, задержки.
**SSD (твердотельный накопитель):**
**NAND-флеш**, нет движущихся частей. Ячейки: SLC/MLC/TLC/QLC (1/2/3/4 бита на ячейку — больше бит = дешевле, но медленнее и меньше ресурс).
**Стирание блоками:** читать/писать можно страницами (\~4 КБ), а стирать — только блоками (\~256 КБ–МБ). Отсюда — **write amplification** и необходимость **wear leveling** (выравнивание износа).
**FTL (Flash Translation Layer)** — «переводчик» логических адресов в физические; **TRIM** — команда ОС сообщить SSD об удалённых блоках; **GC (garbage collection)** — сборка мусора.
Интерфейсы: SATA (до \~600 МБ/с) → **NVMe поверх PCIe** (гигабайты в секунду, очереди команд).
Плюсы: скорость (десятки–сотни тысяч IOPS), бесшумность, устойчивость к ударам. Минусы: цена/ГБ, ограниченный ресурс перезаписи (TBW), деградация при долгом хранении без питания.
**Почему внешняя память внизу пирамиды:** время доступа на **5–6 порядков** больше, чем у ОЗУ. Именно поэтому данные из неё сначала загружаются в ОЗУ.
**Иерархия внутри самого накопителя (интересный слайд):** у SSD тоже есть свой «кэш» — SLC-буфер и DRAM-кэш контроллера; у HDD — дисковый кэш. Пирамида повторяется на каждом уровне.
Слайд 7
**Взаимодействие уровней: как данные «путешествуют» по иерархии**
**Сквозной пример — запуск программы (двойной клик по иконке):**
1. **HDD/SSD:** исполняемый файл и библиотеки лежат здесь. ОС считывает их в ОЗУ (загрузчик). Время — миллисекунды.
2. **ОЗУ:** код и данные программы размещаются в виртуальной памяти. CPU начинает выбирать инструкции по адресам.
3. **Кэш L3 → L2 → L1:** контроллер кэша подтягивает нужные линии по мере исполнения. Первые обращения — промахи, дальше — попадания (локальность!). Время — наносекунды.
4. **Регистры:** операнды загружаются из L1 в регистры, АЛУ считает, результат пишется обратно.
5. **Обратная запись:** изменённые данные (dirty lines) при вытеснении уходят вниз — L1→L2→L3→ОЗУ, а при сохранении файла — на диск.
**Роль связующего звена:**
**Контроллер памяти** (северный мост / интегрирован в CPU) — арбитр между кэшем и DRAM.
**Шины и межсоединения:** FSB → QPI/UPI/Infinity Fabric; PCIe для NVMe.
**DMA (Direct Memory Access):** устройства (SSD-контроллер, GPU, сетевая карта) пишут в ОЗУ напрямую, минуя CPU.
**Когда ОЗУ не хватает — подкачка (swap/pagefile):**
ОС выгружает «холодные» страницы на диск и подгружает нужные.
Это **катастрофа для производительности**: доступ к диску вместо ОЗУ — разница в 10⁵–10⁶ раз. Отсюда «система тормозит, когда мало RAM».
Родственные механизмы: **mmap** (файл как память), **page cache** (кэш файлов в свободной ОЗУ — ещё один уровень иерархии!).
Слайд 8
**Современные тенденции и альтернативные технологии**
**Главный тренд:** границы между уровнями **размываются** — появляются «промежуточные» технологии.
**1. Энергонезависимая память (NVM) и Intel Optane:**
3D XPoint (Optane) — быстрее NAND, дешевле DRAM, энергонезависима. Позиционировалась как «между ОЗУ и SSD».
Использовалась как **NVDIMM** (память с батарейной поддержкой) и как кэш для HDD/SSD.
Судьба: Intel свернула Optane (2022) — урок о том, что технология должна вписаться в **цену и экосистему**, а не только в скорость. Но идея «storage-class memory» жива (CXL, MRAM, ReRAM, PCM).
**2. HBM (High Bandwidth Memory):**
3D-стек DRAM с **TSV** (сквозными кремниевыми переходами), размещённый **рядом с чипом** (2.5D/3D-компоновка) — пропускная способность в разы выше GDDR.
Стандарт для **GPU/ИИ-ускорителей** (NVIDIA H100/B200, AMD MI300) и всё чаще — для CPU (Intel Sapphire Rapids, Fujitsu A64FX).
Стирает границу «ОЗУ далеко от чипа»: память физически на том же интерпозере.
**3. Кэш большого объёма:**
**AMD 3D V-Cache** — L3 до 96–128 МБ за счёт вертикальной компоновки (3D-stacking). Огромный выигрыш в играх и задачах с большим рабочим набором.
Тренд: «кэш как замена части обращений к DRAM» — экономия энергии и задержек.
**4. CXL (Compute Express Link):**
Открытый стандарт шины поверх PCIe для **разделяемой памяти и пулов памяти** между CPU/GPU/ускорителями в дата-центрах.
Позволяет «наращивать» память и кэш за пределами одного сервера; **memory disaggregation** — память как отдельный ресурс.
**5. Прочее:**
**MRAM/ReRAM/PCM** — кандидаты на «универсальную» память.
**Near-memory / in-memory computing** — вычисления прямо в памяти (важно для ИИ).
**Оптимизация под иерархию в софте:** cache-aware алгоритмы, huge pages, NUMA-aware размещение, prefetching.
Слайд 9
спасибо за внимание!