캐시 기억 장치란?
CPU가 데이터를 처리할 때 저장 장치는 필요한 데이터를 인출하여 제공하거나 처리된 데이터를 저장한다. 그러나 CPU는 저장 장치에 비해 고속이라 저장 장치가 읽기/쓰기 동작을 하는 동안 기다려야 한다. 이 문제를 해결하기 위해 CPU의 처리 속도만큼 빠른 고속 저장 장치인 레지스터를 CPU 내의 저장 장치로 사용한다.
한편 주기억 장치(main memory)는 외부의 보조 기억 장치(HDD, SSD 등)에 저장된 프로그램을 저장하는 장치로, CPU와 보조 기억 장치 간의 속도 차이를 극복하기 위해 사용한다. 주기억 장치는 보조 기억 장치보다 빠르지만 CPU에 비하면 매우 느리다. 이에 주기억 장치보다 빠른 저장 장치로 캐시 기억 장치가 등장하게 되었다. 캐시 기억 장치는 수행할 명령어나 피연산자를 주기억 장치에서 가져와 저장하고 있다가 빠른 속도로 CPU에 제공한다. 캐시 기억 장치는 CPU와 주기억 장치 사이에 위치한다.
캐시 기억 장치의 동작
CPU가 명령어 또는 데이터를 인출하려고 캐시 기억 장치를 검색한다. 이때 원하는 정보가 캐시 기억 장치에 없다면 실패 상태가 된다. 실패했을 경우 주기억 장치에서 필요한 정보를 얻어 캐시 기억 장치에 전송한다. 캐시 기억 장치는 얻은 정보를 다시 CPU에 전송한다.
CPU가 요구하는 명령어 또는 데이터가 존재하는 경우엔 적중 상태가 된다. 이때는 정보를 캐시 기억 장치에서 CPU로 직접 전송한다. 주기억 장치를 거치는 것보다 훨씬 빠른 속도로 원하는 정보를 얻을 수 있다.
적중률
적중률은 캐시 기억 장치가 있는 컴퓨터의 성능을 나타내는 척도이다. 적중률이란 프로그램 수행 중 기억 장치에 액세스하는 횟수, 즉 적중 횟수와 실패 횟수의 합으로 적중 횟수를 나눈 것이다. 이때 평균 기억 장치 접근 시간은 다음과 같다.
예시)
캐시 기억 장치 접근 시간이 50ns, 주기억 장치 접근 시간이 400ns일 때 기억 장치 접근 시간을 계산해보자.
적중률이 80%인 경우 : T_average = 0.8 * 50ns + 0.2 * 400ns = 120ns
적중률이 90%인 경우 : T_average = 0.9 * 50ns + 0.1 * 400ns = 85ns
적중률이 99%인 경우 : T_average = 0.99 * 50ns + 0.01 * 400ns = 53.5ns
적중률이 높아질수록 기억 장치 접근 시간이 감소함을 쉽게 알아차릴 수 있다.
댓글