Видимо, наилучшим и наиболее часто реализуемым в настоящее время способом устранения периодов ожидания при обращении процессора к оперативной памяти является применение кэш-памяти.

Кэш-память (cache memory) представляет собой быстродействующую полнофункциональную память небольшого размера, которая используется в качестве перевалочного пункта при обмене данными между микропроцессором и оперативной памятью. Чтобы кэш-память могла выполнять возложенные на нее функции, имеется специальный контроллер. Этот контроллер старается "угадать", какие данные и команды, вероятнее всего, в ближайшее время понадобятся процессору, и подкачивает их в кэш-память с упреждением, не привлекая для этой работы сам микропроцессор.

Очевидно, если данные или команда, необходимая микропроцессору, уже находятся в кэш-памяти, то их извлечение происходит без задержек. Эта ситуация называется попаданием. Бесспорно, при кэшировании возможны и промахи, когда требуемая процессору информация в кэше отсутствует и требуется ее считывание непосредственно из оперативной памяти. Считанные по необходимости данные также неминуемо попадают в кэш-память, замещая в ней всякое старье. Соотношение числа попаданий и промахов определяет эффективность кэширования.

Даже если в кэш-память упреждающее считывание не производится, все равно достигается определенный эффект, поскольку одни и те же данные могут требоваться микропроцессору неоднократно.

Кэш-память реализуется на микросхеме SRAM (Static RAM - статическая оперативная память). В SRAM каждый бит информации хранится на элементе типа электронной защелки, имеющей много общего с широко известным триггером. Его состояние остается неизменным до тех пор, пока не будет сделана очередная запись в этот элемент или не будет выключено электропитание. Поэтому регенерация содержимого кэш-памяти не требуется. Память типа SRAM используется для реализации кэша потому, что ей присуще повышенное быстродействие лежащее в пределах 15-20 нс. Однако ее удельная стоимость намного превышает DRAM и именно поэтому память SRAM в качестве оперативной памяти не применяется. Микросхемы SRAM весьма малоемкие. Вот почему на системной плате устанавливается не одно, а несколько гнезд для кэш-памяти.

Кэш-память может иметь объем 64, 128, 256 или 512 Кбайт. Теоретически чем больше кэш, тем лучше. На практике это положение не подтверждается. В результате испытаний, проведенных тестовым центром журнала PC World в 1992 г., установлено, что при использовании кэш-памяти емкостью 64 Кбайт время выполнения многих программ сокращается примерно на 14%. Далее, при увеличении объема кэш-памяти до 128 Кбайт и даже до 256 Кбайт, выигрыш меняется мало. Были выявлены случаи, когда увеличение размера кэша давало даже отрицательный результат. Объяснение этому - возрастание доли накладных расходов по управлению кэшем.

Эффективность кэширования определяется не только емкостью кэш-памяти, но также организацией кэша и методом кэширования при записи данных. Кэширование при чтении выполняется, в общем-то, всегда одинаково - из оперативной памяти в кэш извлекаются как требуемые данные, так и данные, расположенные за ними, и никаких особых сложностей в этом вопросе не возникает (кэши без упреждающего чтения вышли из употребления). Само количество, считываемых с упреждением (look-ahead) данных определяется организацией кэша.

В зависимости от организации различают следующии кэши.

Поскольку около 30% всех обращений к оперативной памяти приходится на операции записи, реализованный метод кэширования при записи данных в оперативную память вносит заметную лепту в эффективность кэша. На практике применяются три метода кэширования при записи.