Journal Search Engine
Search Advanced Search Adode Reader(link)
Download PDF Export Citaion korean bibliography PMC previewer
ISSN : 1226-0134(Print)
ISSN : 2288-7164(Online)
Journal of Korean Society of Occupational Therapy Vol.21 No.3 pp.87-102
DOI :

노인용 전산화 인지평가도구(코사스) 표준화 연구
: 대구광역시를 중심으로

김영근*, 조영남**, 김동희***, 백수진****
*대구보건대학교 작업치료과
**경운대학교 작업치료학과
***강병원 작업치료실
****대구대학교 대학원 재활과학과 작업치료전공

교신저자 : 조영남(neuroot@hanmail.net)

A Study on the Standardization of Computer-Based on the Computer Cognitive Senior Assessment System

Kim Young-Geun*, Ph.D., O.T., Jo Young-Nam**, Ph.D., O.T., Kim Dong-Hee***, M.S., O.T., Baek Su-Jin****, B.H.Sc., O.T.
*Dept. of Occupational Therapy, Daegu Health College
**Dept. of Occupational Therapy, Kyungwoon University
***Dept. of Occupational Therapy, Kang Hospital
****Dept. of Rehabilitation Science, Graduate School of Rehabilitation Science Daegu University Objective

Abstract

Objective : The purpose of this study was to investigate the reliability and concurrent validity of a Computerbasedcognitive evaluation system (called COSAS) for evaluating the cognitive level of the Korean elderlyand to provide its normative data.
Methods : For this purpose, 302 normal elderly people participated in a investigation to provide the normativedata of COSAS. 52 stroke patients participated in an evaluation experiment to verify the reliability andvalidity. 302 normal elderly participants were evaluated using COSAS. The 52 stroke patients were evaluatedwith COSAS and two standardized assessment tools (MMSE-K, CSOA). COSAS consists of the orientation,memory, attention, visual perception, language ability, calculation ability and sequencing evaluation domains.Because the proposed system is an evaluation tool based on a computer system, all results and operationsare processed consistently and automatically.
Results : The results were as follows. The average accuracy was 45.03, and the standard deviation was 5.58.The average response speed time was 15.14 (sec), and the standard deviation was 3.69 (sec). Chronbach’sαscore of the inter-item consistency was .66. There was no difference in the average score between twoinvestigators. COSAS was highly correlated with MMSE-K (r=.73) and with CSOA (r=.76). The specificdomains of COSAS were correlated with MMSE-K and the common domains of CSOA.
Conclusion : Normative data of COSAS for the Korean elderly were obtained, and the guidelines for theinterpretation were provided. A reliable and valid clinically applicable computerized cognitive evaluationsystem was developed.

0102-01-0021-0003-7.PDF642.0KB

Ⅰ. 서 론

 인지장애는 인간의 일상생활활동 등 작업수행을 방해하는데, 이는 생애주기에서 노화가 진행될수록 뚜렷해진다. 그래서 인지장애를 조기에 발견하는 것이 노인성 질환으로 인한 장애예방과 중재 차원에서 중요하므로 인지평가가 필요하다(정경희 등, 2012; Bonder & Wagner, 2001; Mclntyre & Atwal, 2005).

 인지평가를 통해 노인이나 뇌손상 환자의 문제를 찾는 것은 이들의 작업수행 문제의 원인을 인지적 관점에서 파악하고 중재하는데 유용한 임상적 정보를 줄 수 있다. 심지어 뇌영상 검사에서 인지에 이상 소견이 없는 경증 뇌손상 환자들이 신경 인지평가에서 인지적 문제가 나타나는 경우도 있다. 최인석, 김재진과 정인원(1998)은 경도 외상성뇌손상을 대상으로 뇌영상 검사에서 이상이 있는 집단과 없는 집단으로 나누어 인지평가를 실시한 결과 뇌영상 검사에서 문제가 없지만 신경 인지평가에서 이상 소견이 있을 수 있다는 것을 증명하였다. 이러한 점을 고려할 때 작업치료사가 실시하는 신경 인지평가는 뇌손상으로 인지손상이 있는 환자와 노화로 인지 기능의 저하가 지속적으로 강하하는 노인들의 인지적 문제를 찾고 중재의 기초선을 결정한다는 의미에서 작업치료 과정에서 중요하다.

 여러 가지 인지평가도구 중에서 국내 작업치료사들은 간이정신상태검사(Mini-Mental State Examination for Korean; MMSE-K), 비운동성 시지각 검사(Motor-free Visual Perception Test; MVPT), 그리고 로웬스테인 작업치료 인지 검사(Loweinstein Occupational Therapy Cognitive Assessment; LOTCA)를 보편적으로 사용하고 있다. 그 중 MMSE는 성인 인지검사지로 가장 많이 사용하는 인지평가도구이다(유은영, 정민예, 박소연과 최은희, 2006; 이희령, 김지연과 한대성, 2012). MMSE는 사용방법이 간편하고 빠른 시간 내에 인지 수준을 파악할 수 있는 장점은 있으나 전두엽의 인지적 기능을 평가하기에는 부족하며 인지의 주요 영역 중 기억력을 평가하기에도 역부족이다. 그래서 최근에는 이를 대처하고자 몬트리올인지평가(Montreal Cognitive Assessment-Korean version; MoCA-K)와 같은 다른 평가 도구에 대한 연구가 진행되고 있다(정재엽과 차수민, 2012).

 인지평가도구로 보편적으로 사용하고 있는 MMSE와 MVPT 평가도구의 유형은 대부분 지필 과제 방식(종이와 연필을 이용한 평가방식)이고, LOTCA는 지필 과제 방식과 테이블 탑 방식(테이블 위에서 카드, 블록, 퍼즐을 이용한 방식)이다. 최근 국내 조사에서는 상대적으로 사용처는 적으나 점점 도입이 증가하고 있는 인지평가 유형으로 컴퓨터에 기반한 전산화 인지평가가 있다고 한다(유은영 등, 2006; 이희령 등, 2012). 전산화 인지평가는 아직 표준화 절차가 지필 방식이나 테이블 탑식의 기존 인지평가에 비해 다양하게 확보되지 못한 점과 종이와 연필에 비해 컴퓨터에 익숙하지 않은 세대들에게 거부감을 줄 수 있을 것이라 생각한다. 하지만 전산화 인지평가가 기존의 지필과제방식이나 테이블 탑 방식의 인지평가 도구에 비해 여러 가지 장점이 있다. 첫째, 컴퓨터의 빠르고 정확한 데이터 처리 능력은 평가 결과의 채점과 분석을 신속하고 정확하게 하도록 돕는다(김영환, 손미와 정희태, 2002). 둘째, 평가환경, 평가자의 훈련 정도, 평가 태도에 따른 영향이 적고 검사내용이나 결과 자료를 안전하게 보관할 수 있다(Zhang et al., 2001). 셋째, 치료사의 성향에 따라 평가 속도나 시간이 달라질 수 있는 지필과제나 테이블 탑 평가도구와는 달리 평가내용을 일관성 있게 제시할 수 있다(Baek, 1988). 넷째, 데이터가 자동으로 관리되어 날짜별로 평가결과를 비교 분석할 수 있다(Hannafin & Peck, 1988). 다섯째, 반응시간을 정확하게 측정할 수 있고 검사시간을 효율적으로 관리할 수 있다(Ballard, 1996; Zoltan, 2007).

 이러한 전산화 인지평가도구의 장점을 근거로 컴퓨터와 IT에 기반한 인지평가도구 개발이 필요하다. 지금까지 지필과제와 테이블 탑 방식의 인지 평가도구는 비교적 다양하게 개발되어 있으나 전산화 인지평가 도구는 드물다. 최근 국내 작업치료실에서 사용하고 있는 전산화 인지평가도구로는 전산화 신경인지기능 검사(Seoul Computerized Neurocognitive Function Test; SCNT ver. 4.0)가 있으나 다른 평가 유형에 비해 보급률이 미미하다. 이 외에도 개별적으로 특정 수입 제품을 쓰는 병원도 있지만 소수에 불과하다(유은영 등, 2006; 이희령 등, 2012). SCNT는 기억력 검사, 주의력 검사, 고위 인지기능 검사, 시운동 협응검사, 지능검사로 구성되어 있고 기존 지필과제식의 신경인지기능검사를 전산화한 것이다(권재성 등, 2008). 국립재활원은 뇌손상 장애인의 운전능력 평가를 위한 인지-지각 평가도구로 자동차운전을 위한 인지-지각능력 평가도구(Cognitive-Perceptual Assessment for Driving; CPAD)를 개발하여 사용하고 있다. 이는 전산화 인지평가 도구로 주의력, 기억력, 깊이 지각을 11개의 소검사로 평가한다. 주로 운전능력과 관련이 있는 인지와 지각 요소만 추출하여 개발하였으며 기존외국제품인 운전자 인지행동검사(Cognitive Behavioral Driver’s Inventory; CBDI)와의 공인타당도 과정을 거쳤고 기존 인지평가도구인 MMSE와 MVPT와의 타당도 검증도 이미 마쳤다(유정헌 등, 2004; 정원국 등, 2004). 그러나 현재 국립재활원에서 주로 사용할 뿐 일반 병원에 보급률이 저조하다. 이 외에도 컴퓨터에 기반한 인지평가도구로 연세대학교 재활의학과와 한양대학교 의공학 교실에서 개발한 가상 쇼핑 시뮬레이션 장비가 있다. 이는 인지기능을 컴퓨터 기반에서 쇼핑이라는 일상적인 과제 중심의 가상현실 상황에서 뇌졸중 환자의 인지기능을 분석하고자 개발한 것으로 그 유용성은 검정되었으나 현재 임상에서는 보편적으로 사용하고 있지 않다(강윤주, 2002).

 이상의 최근 연구에서 전산화 인지평가의 유용성과 필요성은 주장하고 있으나 작업치료실에서 보편적으로 사용하는 전산화 인지평가도구는 SCNT가 유일하다. 하지만 SCNT는 가격이 매우 고가이고 보급률이 낮은 편이다. 그리고 SCNT는 기존 신경인지검사 도구를 전산 프로그램화 한 것으로 기존 인지검사와 내용이 유사한 점이 많고 전체 검사 소요시간이 많이 소요된다(이현숙, 2010). 이러한 전산화 인지평가도구의 장점과 기존 전산화 인지평구도구의 문제점에서 비롯된 한국형 전산화 인지평가도구 개발의 필요성을 배경으로 전산화 인지평가 도구의 다양화와 보편화를 위하여 국내에서 2012년 지식경제부의 지식경제 기술혁신 사업 중‘베이비 붐 세대 타겟형 시니어산업 육성 기반 구축’사업의 일안으로 노인용 인지평가를 위한 노인용 전산화 인지평가도구, 일명 코사스(Computer Cognitive Senior Assessment System; COSAS)가 개발되었다. 코사스는 작업치료사 중 인지재활 전문가들의 인지평가에 필요한 콘텐츠와 필수 내용을 조사하여 반영되었고, 기존 인지평가도구를 비교 분석한 자료와 인지평가에 관련된 문헌 고찰을 토대로 우리나라 실정에 맞게 작업치료사가 개발하였다. 현재 시제품이 완성되었고 예비 사용성 실험도 수차례 진행 되었으나 표준화 자료와 타당도에 대한 검증이 이루어지지 않았다. 그래서 본 연구의 목적은 최근 개발한 노인용 전산화 인지평가 도구인 코사스의 신뢰성과 타당도를 평가하고 표준화 자료를 얻기 위함이다.

Ⅱ. 연구 방법

1. 연구 대상 및 기간

 실험은 2013년 1월부터 2월까지 표준화 자료 수집과 타당도 조사가 동시적으로 이루어졌다. 정상 노인 318명을 대상으로 실시한 표준화 자료 수집은 1월부터 4주간 진행되었고, 뇌졸중 환자 60명이 참여한 공인타당도 검증은 1월 말부터 2월까지 5주간 진행되었다.

1) 표준화 자료 수집 및 신뢰도 검증 실험 참가자 특성

 65세 이상 정상노인 318명이 코사스 표준화 자료 수집에 참여하였다. 이들은 모두 대구광역시에 거주하는 노인들이다. 본 연구에서의 정상노인이란 과거나 현재에 뇌손상, 뇌졸중, 치매 등 인지장애를 유발할 수 있는 요인이나 의학적 경험이 전혀 없고, 최근 복지관에서 정기적으로 실시하는 건강검진에서 인지적 문제가 없는 것으로 판정받은 노인들이다. 이렇게 선정된 실험 참가자 318명 노인 중 실험도중 프로그램 실시방법을 반복 설명해도 이해하지 못하는 노인, 뇌졸중이나 뇌손상 등 인지장애를 경험한 적이 있는 노인, 그리고 이유는 알 수 없지만 프로그램 수행정도가 다른 노인들에 비해 현저히 떨어져 문제를 이해하고 해결하는 것이 아니라 무작위로 점수를 체크하는 노인 그리고 정규분포를 구하는 과정에서 Stem-and-leaf plot을 통하여 극단적으로 점수가 낮거나 높은 사람 등 총 16명을 제외하고 302명이 최종적으로 실험에 참여하였다(표 1).

표 1. 표준화 자료 수집에 참여한 노인의 인구통계학적 특성

2) 공인타당도 검증 실험 참가자 특성

 기존 표준화된 평가도구와 상관관계를 알아보기 위하여 지속적이고 다양한 인지평가가 필요한 뇌졸중 52명이 실험에 참여하였다(표 2). 이들을 선택한 이유는 인지수준이 아주 낮은 수준에서부터 정상수준까지 다양하고 병원에 지속적으로 방문하기 때문에 본 연구의 평가도구들을 모두 적용해 볼 수 있다고 판단했기 때문이다.

표 2. 타당도 검증에 참여한 뇌졸증 환자의 인구통계학적 특성

2. 노인용 전산화 인지평가도구, 일명 코사스(Computer Cognitive Senior Assessment System; COSAS)

 본 연구는 도구 개발에 대한 연구가 아니라 표준화를 위한 자료 수집에 관련된 연구이므로 도구 개발과 내용에 대한 설명은 최소화 한다(제품 개발에 대한 내용은 한국산업기술평가원에 제출하여 연구의 타당성에 대한 심사를 마친 R&D 연구개발 보고서를 참조).

1) 개발 배경

 2012년 4월 지식경제부에서 지식경제 기술혁신 사업 중‘베이비 붐 세대 타겟형 시니어산업 육성 기반 구축’을 위하여‘노인용 전산화 인지평가도구 개발’이라는 사업에 선정된 연구 책임자인 김영근을 중심으로 연구원 조영남, 김동희, 백수진과 (주)넷블루가 협력하여 노인용 인지평가를 위한 노인용 전산화 인지평가도구, 일명 코사스(Computer Cognitive Senior Assessment System; COSAS)를 개발하였다.

2) 개발 절차와 개발 도구

 전산화 인지평가도구 개발 절차를 소개하면 그림 1과 같다. 프로그램 개발 초기에 전국 5개 지역에 작업치료사 중 인지재활 전문가이며 전산화 인지재활평가 프로그램에 대한 경험이 있는 대학교수와 종합병원 임상경력 8년 이상의 전문가 8명으로부터 평가도구 개발에 대한 요구사항을 수집하였다.

그림 1. 전산화 인지평가도구 개발 절차

 평가 구성을 위해 문헌을 고찰하고 기존의 인지평가 도구 9종(MMSE-K, CDR, LOTCA, LOTCA-G, MVPT-3, K-DRS2, 웩슬러 성인지능검사, SCNT, 신경심리검사)의 구성과 장단점을 분석하였다. 이러한 절차를 통해 개발한 기획서에 따라 (주)넷블루에서 전산화 프로그래밍작업을 하였다. 시제품이 만들어지는 과정에서도 수차례 수정작업을 거쳐 평가도구가 개발되었다. 이후 전국 4개 지역 인지재활 및 평가 전문가 8명(교수 및 임상경력 10년 이상)에게 개발 제품의 인지평가도구 적합성에 대한 평가를 받았다. 제품 개발에 대한 전문가 요구사항, 유니버설디자인 원리, 제품 사용성, 인지평가도구로써의 적합성 등 개발 초기에 연구자들이 개발 원리로 설정한 20개의 원칙을 5점 체크리스트로 만들어 전문가들이 직접 체크하게 하였고 그 결과 총 100점 중 평균 85.9점을 받아 전문가들로부터 적합성에 대한 긍정적인 평가를 받았다.

 코사스의 개발 환경은 window 8.0이 기반이고, 소프트웨어는 최신 버전인 Visual studio 2012 C#이다. 메인 디자인은 Adobe photoshop 5.1과 Adobe illustrator 5.1이 적용되었고 디자인과 소프트웨어의 콘텐츠 연동 툴은 Adobe flash CS 5.5이다.

3) 구성과 내용

 코사스는 총 6개 영역, 55문항, 총 점수 64점으로 구성되어 있다. 모든 문제를 푸는데 소요되는 시간은 정상노인인 경우 15~20분이다. 세부 영역으로는 지남력(시간, 장소, 사람), 기억력(위치기억, 대상기억, 청각작업기억, 시각작업기억), 주의집중(초점주의, 지속주의, 분할주의, 선택주의), 시지각(시공간, 시각변별), 언어능력(이름대기, 관련 단어 선택하기), 상위인지(계산하기, 순서화)로 구성되어있다(표 3). 프로그램 진행은 먼저 평가대상자에게 동영상과 음성으로 반응 방법과 버튼에 대해 설명을 제공하여 사용자의 이해를 돕고, 사용자가 모두 이해했을 때 스스로 시작버튼을 누르면 세부 평가 콘텐츠가 진행이 된다. 모든 평가 영역의 검사가 끝나면 자동으로 결과창이 표로 나타나고 정확도총점과 평균반응시간이 제시되는데 평가자에게 자세한 정보를 제공하기 위해서 영역별로 점수가 제시되기도 한다. 또한 대상자의 총 점수 수준이 정상범위 안에 포함인지 미만인지를 그림으로 명확하게 보여준다(그림 2).

표 3. 코사스 전산화 인지평가도구 콘텐츠 세부 영역별 문항수와 점수체계

그림 2. 코사스 도입부분, 세부평가영역 콘텐츠(예, 결과제시 절차와 내용)

3. 공인타당도 검증을 위한 연구 도구

 공인 타당도 검증은 코사스와 기존 노인 인지평가도구의 상관관계로 검증하였다. 이를 위해서 뇌졸중 환자 52명에게 기존 노인 인지평가도구 중 작업치료에서 가장 많이 사용되고 있고, 국내 환경에 맞게 표준화 한지 20년이 넘은 MMSE-K와 비교적 최근에 개발되어 표준화 검증을 거친 노인용 인지검사(CSOA)를 적용하였다(유은영 등, 2006).

1) 한국형 간이정신상태검사(Mini-Mental State Examination for Korean; MMSE-K)

 작업치료 임상에서 인지 판별검사로 보편적으로 사용하는 한국형 간이정신상태검사(MMSE-K)는 인지기능을 간편하고 빠르게 평가하는 지필과제 방식의 인지평가도구이다. Folstein, Folstein과 McHugh(1975)가 최초 개발한 것을 권용철과 박종한(1989)이 국내 노인 문맹자를 고려하여 수정· 보완한 것이다. 세부 평가 구성은 지남력, 기억등록, 기억회상, 주의와 계산, 언어기능, 이해와 판단 등 6개 영역, 12문항으로 이루어져 있다. 이 평가도구는 총 30점 만점이고 인지장애를 판별하는 기준은 24점이상 일 때 정상, 18~23점은 경도 인지장애, 17점 이하는 중증 인지장애로 구분한다(오민아, 신윤오, 이태용과 김정선, 2003).

2) 노인용 인지검사(Cognition Scale for Older Adults; CSOA)

 노인용 인지검사는 노인의 전반적 인지기능을 짧은 시간 내에 다양한 차원에서 종합 평가하고자 개발한 검사도구이고 표준화된 신경심리검사도구이다(김홍근과 김태유, 2007). 그동안 표준화 조사를 위하여 55세부터 79세까지 756명의 한국 노인이 참여하였다. 검사는 스트룹 검사, 숫자외우기, 기본지식문제, 단어유창성, 그림이름대기, 보고 그리기 총 7가지 소검사로 구성되어 있다. 종합적인 전체 결과는 정상, 경도인지장애, 치매로 분류할 수 있으며 병원환경에서 진단 검사도구로 사용이 가능하다(김홍근과 김태유, 2007). 한국 보스톤 그림이름대기와 공인타당도가 r=.75이고, 임상치매척도검사(Clinical Dementia Rating; CDR)와 단어기억하기에서 r=-.74~-.77이며, K-MMSE와는 r=.66~.68의 공인타당도를 보였다.

4. 연구 절차

1) 표준화 자료 수집을 위한 절차

 실험은 연구 보조원 2명씩 한 조가 되어 A, B 두 조로 진행하였다. 각 조에서 한 명은 노인을 직접 평가하는 것을 담당하고, 다른 한 명은 노인들을 섭외하고 실험 동의를 구한 후 평가 대기 동안 평가 취지와 목적을 설명하고 순서를 조정하였다. 평가를 담당하는 연구 보조원은 사전에 코사스 사용에 대한 훈련을 받았고 연습차원에서 코사스를 노인들에게 여러 차례 사용해 보았다. 코사스는 본격적인 문제가 제시되기 전 사용방법과 예시 등을 동영상으로 제시하고, 각 문제마다 지시어를 글과 함께 말로 제시하기 때문에 연구 보조원이 제공해야 할 설명과 특별한 절차는 필요가 없었으나 참가자가 이해를 못할 경우에는 한번 정도 추가 설명을 하였고, 사용방법이 이해가 된 노인들은 스스로 모니터 상에 제시하는‘시작’버튼을 눌러서 평가를 시작하도록 하였다.

 실험은 대구시 D 노인종합복지관 내 상담실 두 곳에서 진행하였다. 평가 실시 전에 복지관에 연구의 목적, 연구결과의 활용, 연구 협조 등이 기술된 공문을 기관장 앞으로 발송하였고 복지관 측으로부터 조건부 허락에 대한 답변이 왔다. 복지관이 제안한 조건에는 복지관 프로그램 운영에 방해가 되지 않도록 노인 한명 당 실험 시간을 30~40분 내에 마칠 것과 연구 결과에 대해서 복지관 측에 자료를 제공하고 복지관에서 활용할 수 있도록 하는 것이었다. 이에 이러한 조건을 받아들인다는 2차 공문을 발송하고 복지관으로부터 정식 허가를 받았다. 노인들을 섭외하는 과정에서 실험에 대한 동의를 구두로 확인하였고 동의를 한 노인들만 실험에 참가하게 하였다. 실험을 진행하는 상담실은 주위에 방해자극이 없는 매우 조용한 방이었으며 컴퓨터 모니터가 자연광으로 인해 흐릿하게 보이지 않도록 빛을 조정하였다. 바탕화면에 코사스가 설치된 개인용 PC를 책상위에 설치하였고, 모니터는 터치패드가 가능한 22인치 모니터를 사용하였다.

2) 공인타당도 검증을 위한 연구 절차

 공인타당도는 코사스 개발과 본 연구에 참여하는 연구원들이 직접 실시하였다. 연구원들은 개발 과정에서 이미코사스 사용에 대한 방법과 절차가 익숙해져 있었다. 실험을 위해서 대구시 K병원에 연구의 목적과 방법이 기술되어 있는 공문을 발송하였고, 병원 소속 전문가들의 회의를 거치는 행정절차를 밟았다. 이 후 병원에서 제시한 몇 가지 조건(환자의 정보를 유출하지 않을 것, 결과를 병원 측에 제시할 것, 환자의 고유 치료를 방해하지 않을 것, 실험도중 환자가 거부할 경우 즉시 중단 할 것)에 대해 연구책임자가 동의를 한 후 최종 허락을 받았다. 참여하는 환자들에게는 연구자가 실험의 취지와 목적을 설명하였으며, 동의를 한 환자들만 연구에 참여하도록 하였다. 실험은 인지치료를 주로 하는 조용한 치료실에서 치료시간 이외의 시간에 실시하였다. 먼저 MMSE-K와 노인용 인지검사(CSOA)를 실시하였다. 이후 본 평가도구인 코사스를 실시하였다. 이 외 코사스를 실시하는 방법은 위 표준화 자료 조사에서의 방법과 동일하게 실시하였다.

5. 분석 방법

 코사스의 정확도 및 반응시간의 평균, 표준편차, 표준오차, 중위수 등 기본 통계값과 정규성 검증을 위해서 데이터 탐색과 빈도분석을 실시하였다. 구체적으로 성별에 따른 차이를 알아보기 위해 독립표본 t 검정을 하였으며, 연령별과 교육 수준별 유의한 차이를 분석하고자 일원변량분석(one-way ANOVA)으로 처리하였다. 더불어 어느 집단 간 통계적 차이가 있는지를 알아보기 위해 Tukey 사후 검정을 실시하였다. 다른 노인인지평가 도구와의 상관관계를 조사하기 위해서는 Pearson의 상관관계 분석을 실시하였다. 모든 자료처리를 위하여 SPSS version 12.0을 사용하였다.

Ⅲ. 연구 결과

1. 코사스 정상노인의 수치와 유의확률별 표준점수

 코사스를 정상노인 302명을 대상으로 실시한 결과 정확도 평균이 45.03점(70.36%)이고, 중위수가 45점이었다. 데이터 탐색 결과 kolmogorov-Sminov 정규성 검정이 확인되었고 Stem-and -leaf plot에서 정규 분포를 확인하였다. 임의의 표본이 유의확률에 따라 해당할 표준점수를 구한 결과 유의확률 68% 신뢰구간에서는 39.45~50.61점, 95% 신뢰구간에서는 33.87~56.19점, 99% 신뢰구간에서는 28.29~61.77점으로 나타났고, 원점수를 백분율로 환산하여 총점 100점에서 표준점수를 확인 할 수 있도록 하였다(표 4). 반응시간은 평균이 15.14초, 표준편차 3.69초, 중위수가 14.61로 나타났다. 코사스의 주요 인지 영역별 평균점수는 지남력 7.11점, 기억력 6.33점, 주의집중 7.17점, 시지각 6.40점, 언어능력9.63점, 상위인지(계산능력과 순서화) 8.39점이다(표 5). 1코사스 총점수를 성별에 따른 평균점수 차이를 비교해 본 결과 두 집단 간에 유의한 차이가 없었다(p>.05). 연령에 따른 세 집단 간에는 유의한 차이가 있었는데(p<.01), 60대가 점수가 높았고 80대 이상에서 점수가 가장 낮았다. Tukey 사후 검정결과 세 집단이 모두 평균점수에서 유의한 차이를 보였다(p<.05)(표 6). 학력에 따라서 다섯 집단간에 평균의 차이를 알아본 결과 유의한 차이를 보였다(p<.01). 서로 차이 나는 집단을 알아보고자 Tukey 사후검정을 실시한 결과 초등학교 이하 집단과 중학교 이상 집단 간에 유의한 차이를 보였다.

표 4. 코사스 정상노인 302명 평균, 표준점수, 기본 통계량과 백분율 환산 점수

표 5. 코사스 인지영역별 평균점수와 표준편차

표 6. 코사스 연령과 학력별 정확도 평균과 표준편차 및 평균값 비교

2. 코사스 신뢰도 분석 결과

 코사스 평가도구의 신뢰도를 알아보기 위하여 문항 간 내적 일치도 계수(Cronbach’s α)를 구하였다. 코사스의 내적 일치도 계수는 .66으로 신뢰성이 있었다. 추가적으로 검사자 간에 신뢰성을 알아보기 위하여 정상노인 302명을 대상으로 평가를 실시한 A조와 B조의 두 집단 간 평균점수의 차이를 알아본 결과 두 집단 간 평균점수에서 유의한 차이가 없었으므로 두 검사자간 내적 일치도가 성립되었다(p>.05)(표 7).

표 7. 코사스 검사자간 평균점수 비교

3. 코사스 공인타당도 분석 결과

 코사스의 타당도를 분석하기 위하여 MMSE-K와 노인용인지검사와의 상관관계를 분석하였다(표 8). 코사스를 MMSE-K 그리고 CSOA와 상관관계를 분석한 결과, 코사스는 기존 노인인지평가 도구인 CSOA와 상관계수 r=.76(p<.01)으로 높은 상관관계를 보였다. 그리고 MMSE-K와도 상관계수 r=.73(p<.01)으로 역시 높은 상관관계를 보였다. 심지어 CSOA와 MMSE-K의 상관계수인 r=.61(p<.01)보다 높았다. 세부 영역별로 상관관계를 알아본 결과 코사스의 세부 영역들은 모두 MMSE-K와 상관관계가 있었고, CSOA와도 상관관계가 있었다(p<.01). 코사스의 세부 검사 영역과 CSOA의 세부 영역중에 서로 관련 있는 검사 항목 간에 상관관계를 알아본 결과 코사스의 기억력은 CSOA의 기초지능과 기억력과상관관계가 있었고(p<.01), 코사스의 주의집중은 CSOA의 기초지능과 주의기능과 상관관계가 있는 것으로 나타났다(p<.01). 또한 코사스의 시지각은 CSOA의 시공간력과 상관관계가 있었다(p<.01). 코사스 반응시간은 정확도와 역함수를 보이는데, MMSE-K와 CSOA와도 부적 상관관계를 보였다(p<.01).

표 8. 코사스, MMSE-K, CSOA상관관계분석 결과

Ⅳ. 고 찰

 인지 손상은 인간이 독립적으로 일상생활을 수행하는 것을 방해할 뿐만 아니라 감각체계로 들어오는 의미 있는 자극들을 처리하고 해석하지 못하게 방해한다(Bottcher, 1989). 인지재활은 인지 기능이 낮은 사람의 작업수행 능력을 높이고 자신에게 의미있는 활동을 가능하게 하는 것으로 작업치료사의 주요한 업무이다(Blundon & Smits, 2000). 이러한 인지재활을 위해서 반드시 거쳐야할 과정이 환자의 현재 인지기능 수준을 평가하는 것이다. 일반정상적 노인도 종적 연구에서 60세 이상부터 공간적 능력, 복합적 지능지수, 언어 관계, 수리능력 등에서 노화에 영향을 받아 하강이 시작된다고 한다(전진숙, 2000). 이러한 인지평가의 중요성과 필요성을 연구 배경으로 본 연구의 목적은 지식경제부 기술혁신사업의 일안으로 개발한 한국형 노인용 전산화 인지평가도구(코사스)에 대한 표준화 자료를 분석하고 개발 평가도구의 신뢰도와 타당도를 검증하기 위함이다.

 정상노인을 대상으로 표준점수를 구한 결과에서 코사스의 정확도 점수를 백분율로 나타냈을 때 70점 정도의 점수를 얻었다. 80대 이상의 노인과 무학노인들이 다수실험에 포함되어 있다는 것을 고려한다면 지나치게 높은 점수도 아니며, 낮은 점수도 아닌 적정 수준의 평균 점수라 판단한다. 또한 유의수준에 따른 신뢰구간에서 302명중 99%의 노인이 44점에 96점 사이에 있었고, 95%의 노인이 53점에서 88점 사이에 있었던 것으로 나타나 추후여러 가지 요인들을 고려한 후 위험군, 경계군, 정상군을 산정하여 평가도구 기준 점수를 선정하는데 근거 자료가 될 수 있을 것으로 고려한다.

 영역별로 점수를 조사한 결과 정상 노인들은 언어능력에서 높은 점수를 받았으며 기억력 점수에서 배점에 비해 낮은 점수를 받았다. 언어능력은 단순히 그림을 보고 대상의 이름을 맞추는 것과 물건과 관련된 단어를 선택하는 것으로 한글을 아는 사람이라면 매우 단순하게 풀 수 있는 문제이기 때문에 점수가 높게 나타난 것으로 판단한다. 언어능력에서 현저히 낮은 점수를 받은 참가자는 학력 상에 무학이고 한글을 알지 못하는 분들이었다. 기억력 점수가 다른 영역에 비해 문제수가 많음에도 불구하고 점수가 낮은 이유는 MMSE-K에서는 글자 단어만 기억하는 것과 는 달리 코사스는 다양한 패턴(위치, 대상, 청각, 시각 기억)으로 문제를 제시하고 있기 때문이다. 그리고 MMSEK에서 등록하고 기억해야할 대상이 세 개인 반면(권용철과 박종한, 1989), 코사스에서는 5개까지 수를 늘린 것이 난이도를 높인 원인이라고 판단한다. 기억력은 학습이나 다른 인지영역의 기초가 되므로 세분화하여 다양하게 평가하고 항목수가 다른 영역에 비해 많을 필요가 있다고 생각한다.

 코사스가 연령별로 차이가 나타난 것은 노화가 진행되면서 주의집중, 언어능력, 기억력, 시공간 능력이 점차 감소한다는 연구결과와 일치한다(안수연, 2007; 전진숙, 2000;정경희 등, 2012; Kane, Ouslander, & Abrass, 1984). 노인용 인지평가는 학력의 영향을 최소화하는 것이 중요한데 본 연구의 결과 초등학교 이하의 노인들과 중학교이상의 노인들 간에 평균점수에서 유의한 차이가 나타났다. 학력이 증가할 때마다 평균 점수가 상승하였으나 중학교, 고등학교, 대학이상 학력 간에는 유의한 차이가 없었다. 이러한 연구결과는 노인 인지문제에 영향을 주는요인이 학력 수준이라고 주장한 연구결과와 일맥상통한다(전해숙, 2013). 그러나 인지평가도구는 학력이 주는 요인을 최소화할 수 있고, 문맹자와 관계없이 해결할 수 있는 문제들로 구성될수록 더욱 이상적일 것이라 생각한다. 인지평가도구를 사용하는 동안에는 성별, 교육수준 등 평가와 직접적으로 관련이 없는 요인들은 검사결과에 영향을 주지 않도록 하는 것이 순수 인지를 평가하는데 도움이 될 것이다.

 신뢰도 분석 결과에서는 문항 간 일치도가 높게 나타났고 검사자간에도 두 집단에서 유의한 차이가 없었으므로 연구에서 활용한 도구가 신뢰할 수 있는 도구라는 것을 알 수 있다. 그러나 연구를 진행하기 전에 코사스는 평가절차나 방법이 컴퓨터에서 자동으로 일관성 있게 운영되고 처리되기 때문에 검사자의 영향이 다른 지필방식보다 적을 것이라 생각하여 검사자간의 신뢰도는 높게 나타날 것으로 기대했으나 예상보다는 낮은 수치였다. 이러한 결과에 대한 원인을 실제 검사에 참여했던 연구원들과 논의한 결과 컴퓨터에서 모든 절차가 자동으로 이루어지고 설명 또한 예제문제나 동영상으로 자세히 설명하고 있지만 컴퓨터에 익숙하지 않은 노인들이 있어서 검사자의 부연 설명이 추가되었기 때문이라고 판단한다. 이때 검사자간에 설명하는 방식과 내용이 달랐기 때문이다. 그러므로 컴퓨터기반으로 하는 평가에 있어서 시스템에 익숙하지 않은 분들을 위하여 기본 매뉴얼을 일관된 내용으로 제작하여 검사자에게 제공할 필요가 있다. 또한 집단을 나눌 때 다양한 일반적 특성을 고려하지 않은 점이 결과에 영향을 줄 수 있을 것이라 생각한다.

 코사스의 공인타당도 검정 결과에서는 매우 만족스러운 결과를 얻을 수 있었다. 코사스의 정확도 총점이 MMSE-K와 상관관계가 높게 나타났다. MMSE-K는 노인인지평가 뿐만 아니라 인지적 문제를 가진 환자군에게 국내에서 가장 오래 동안 그리고 가장 보편적으로 많이 사용되고 있는 인지평가라는 점에서 본 연구의 결과는 그 의의가 크다. 또한 코사스는 노인용인지검사도구인 CSOA와도 상관관계가 있고 다소 높은 상관계수를 보였다. CSOA는 최근 국내에서 노인용으로 만든 인지검사로 표준화 과정을 거친 신뢰할 만한 평가도구로써 최근 노인인지나 뇌졸중 인지연구에서 사용되고 있다(김규연과 김홍근, 2009; 윤정애, 이향숙, 김홍근과 권혁철, 2012). MMSE-K와 코사스와의 상관계수(r=.73)가 본 실험의 결과로 나타난 MMSE-K와 CSOA와의 상관계수(r=.61)보다 높은 것은 코사스가 노인인지평가도구로 타당성이 있다는 것을 뒷받침해 준다.

 이상의 결과 분석과 논의를 통해서 한국형 전산화 인지 평가도구인 코사스에 대한 종합적인 해석은 노인용 전산화 인지평가도구인 코사스가 인지평가도구로써 유용성이 있다는 것이다. 표준점수에서도 적절한 평균점수가 산출되어 인지적 문제를 찾아내는 것이 가능하고 기존 평가도구와도 상관관계를 보였다. 국립재활원에서 개발하여 운전재활을 위한 전산화 인지능력 검사로 사용하고 있는 CPAD에 관한 표준화 연구에서 MMSE-K와의 상관계수가 측정되었는데(r=.49), 코사스는 이 보다 상관계수가 높아 인지평가로 적합함을 입증하였다(정원국 등, 2004). 또한 전산화 평가도구는 아니지만 최근 작업치료에서 연구되고 있고 임상에서 작업치료 인지평가도구로 적합성을 인정하여 보편화 되고 있는 알렌인지수준 판별검사(Allen Cognitive Level Screen; ACLS)와 MMSEK와의 상관계수보다 코사스와 MMSE-K와의 상관계수가 더 높은 수치를 보였다(김수경 등, 2007). 그러나 CPAD는 정보처리적 관점에서 순수 인지와 시지각을 평가하는 도구이지만 운전에 필요한 인지영역에 대해서 평가하므로 코사스와 비교하기에는 한계가 있고, 알렌인지수준 판별검사는 컴퓨터 기반으로 되어있지 않기 때문에 역시 비교에 제한점이 있다.

 이러한 연구 결과로 코사스의 신뢰성과 타당성을 확언하기에는 본 연구의 연구에 제한점이 있는데 첫째, 조사에 참여한 노인의 수가 300명 이상 많은 수가 참여하였으나 모두 대구지역의 노인이라는 점에서 지역적 분포가 고려되지 않은 점이다. 지역적 분포를 다양하게 하고 더 많은 노인들을 대상으로 표준점수를 구하는 것이 더욱 객관적이고 신뢰성을 지지할 것이다. 둘째, 무학과 초등학교 졸업자의 점수가 그 이상의 학력의 노인들에 비해 낮은 점이다. 추후연구에서는 초등학교 이하 참가자의 수를 더욱 높여서 다시 비교 분석할 필요가 있다. 만약 이후 연구에서도 코사스가 학력에 영향을 받는 것으로 결과가 나타나면 표준점수에서 학력을 고려한 점수 구간을 계산해서 제시해야 할 것이다. 셋째, 타당성 검증에서 인지장애가 있는 뇌졸중 환자들을 대상으로 연구를 하였는데 추후 연구에서는 참가자 수를 더욱 확대하고, 뇌졸중 환자보다 다른 요인들에 영향을 덜 받는 정상노인을 대상으로 조사할 필요가 있다. 본 연구에서도 정상노인들에게 MMSEK와 CSOA를 추가 실시하려고 했으나 검사시간이 지나치게 많이 소요되어 일회성으로 방문하는 노인들에게 며칠에 걸쳐 검사할 수 없는 한계가 있었고, 복지관에서도 실험 조건에 노인 한 명당 30~40분으로 제한하였다. 넷째, 신뢰도 검사에서 검사-재검사간 신뢰도를 실시하지 못하였다.

 본 연구의 결과로 코사스에 대한 표준화가 완성 되었다고 주장하기는 어렵다. 연구의 난점들을 보완하여 신뢰성과 타당성에 대한 추가 연구가 지속적으로 진행되어야 한다. 코사스 표준화에 대한 연속적 연구 차원에서 연구의 제한사항을 보완한 연구와 더불어 몇 가지 추가 연구를 제안하면 다음과 같다. 첫째, 검사자간 신뢰도 연구는 검사자의 추가 설명이나 도움의 정도를 일관성 있게 메뉴얼로 만들어 두 집단 간에 도움의 양과 설명을 동일하게 하는 조건에서 다시 추가 연구할 필요가 있다. 둘째, 현재 작업치료실에 전산화 인지평가도구로 가장 많이 보급된 SCNT와의 상관관계를 분석할 필요가 있다. 코사스는 전산화 평가도구로 이미 표준화가 이루어진 SCNT와 같은 컴퓨터 기반의 평가 도구이므로 두 평가도구간의 상관관계는 코사스가 임상적으로 활용 가능함을 증명하는데 더욱 확실한 근거가 될 것이다. 셋째, 추후 표준화 연구에서는 상관분석 외에 다중공선성 분석을 통하여 불필요한 문항들이 있는지 점검하고 문항들을 다시 정리하여 표준화연구를 진행할 것을 권유한다. 넷째, 노인들을 대상으로 컴퓨터를 사용한 평가의 사용성과 유용성에 대한 조사와 분석이 필요하다. 왜냐하면 노인이기 때문에 컴퓨터를 사용해 본 경험이 적거나 없어서 대상자의 인지는 정상수준이나 평가결과가 낮게 측정되는 경우도 있을 것이라 예상하기 때문이다. 그러므로 코사스 평가시 환자의 태도와 사용성의 비친숙성으로 인한 긴장과 두려움 등에 대한 질적조사와 컴퓨터 사용 경험정도를 파악하는 조사가 평가과정 중에 함께 이루어지면 환자의 상태를 정확하게 파악하는데 도움을 줄 것이다. 이러한 본 연구의 난점들을 보완하고 제안한 추후연구를 진행한다면 최근 개발한 한국형전산화 인지평가도구에 대한 신뢰성 및 타당성 검증에 긍정적인 영향을 줄 수 있을 것이라 기대한다.

Ⅴ. 결 론

 본 연구는 한국형 전산화 인지평가도구로 개발한 코사스의 표준화 점수를 산출하고 기존 인지평가도구와 비교를 통한 타당성을 입증하여 코사스가 임상에서 사용가능한 유용성을 지닌 평가도구인지를 검증하기 위함이다. 코사스는 최근 시제품까지 개발된 전산화 인지평가 도구로 작업치료사인 본 연구자들이 기획하였다. 코사스가 임상적으로 효용 가치가 있는지 실험을 통해 검증하고 평가도구로써 사용하기 위한 표준 점수와 기본적인 통계치를 산출하는 것이 연구의 발단이다. 이를 위해 일반 정상 노인302명을 대상으로 평균과 표준편차 및 유의수준 간 신뢰구간을 산출하였고 또한 인지영역 별 통계량도 계산하였다. 이 과정에서 검사자간의 신뢰도와 문항 간 내적 일치도가 유의함을 증명하였다. 공인 타당성 검증을 위해 뇌졸중 환자 52명을 대상으로 코사스, MMSE-K, CSOA를 평가하여 상관관계를 알아본 결과 코사스는 기존 인지평가도구와 상관관계가 높은 것으로 나타났다. 또한 CSOA와 의 공통 인지 영역별 상관관계를 알아본 결과 기억력, 주의집중, 시지각에서 상관관계가 있음을 알 수 있었다. 본 연구에서 연구방법에서 부족했던 참가자의 지역안배, 참가자 수, 더 철저한 평가 절차를 보완하여 연구를 확대할 필요가 있다. 이러한 연구는 코사스의 문제점을 수정· 보완할 수 있는 정보를 제공하여 보다 완성도 높은 평가 시스템이 되는데 기여할 것이다. 또한 작업치료 임상에 새로운 인지평가도구를 제공하고 노인과 뇌손상 환자의 인지적 문제를 찾고 중재계획을 세우는데 공헌할 수 있기를 기대한다.

Reference

1.강윤주. (2002). 뇌졸중 환자에서 인지기능 평가를 위한 가상현실 프로그램 개발 및 유용성 검토(석사학위논문). 연세대학교, 서울.
2.권용철, 박종한. (1989). 노인용 한국판 Mini Mental State Examination (MMSE-K)의 표준화 연구: 제 1 편 MMSE-K의 개발. 신경정신의학, 28(1), 125-135.
3.권재성, 김영근, 김지연, 육진숙, 조현진, 홍승표. (2008). 작업치료사를 위한 인지재활. 서울, 한국: 퍼시픽북스.
4.김규연, 김홍근. (2009). 뇌졸중이 인지기능에 미치는 효과: 노인용 인지검사(CSOA)를 중심으로. 한국임상심리학회지, 28(2), 587-603.
5.김수경, 염희영, 황금선, 이희령, 백영수, 정민예. (2007). 뇌졸중 환자를 대상으로 실시한 알렌 인지 수준 판별검사와 한국판 간이 정신상태 판별검사, 로웬스타인 작업치료 인지평가의 상관관계. 대한작업치료학회지, 15(1), 35-46.
6.김영환, 손미, 정희태. (2002). 컴퓨터 기반 적응적 검사(CAT)의 이론과 실제. 서울, 한국: 문음사.
7.김홍근, 김태유. (2007). 노인용 인지검사. 대구, 한국: 신경심리.
8.안수연. (2007). 독거노인의 일상생활능력과 인지정도. 노인간호학회지, 9(1), 68-75.
9.오민아, 신윤오, 이태용, 김정선. (2003). MMSE를 이용한 도시지역 노인들의 인지기능검사 성적. 충남의대잡지, 30, 101-113.
10.유은영, 정민예, 박소연, 최은희. (2006). 한국 작업치료사의 영역별 평가도구 사용 동향. 대한작업치료학회지, 14(3), 27-37.
11.유정헌, 장순자, 박시운, 김동아, 이준옥, 정원국, ... 김선일. (2004). 뇌손상 장애인의 자동차 운전을 위한 인지-지각능력 평가도구(CPAD)의 표준화 예비연구. 대한 뇌졸중학회지, 6(1), 68-72.
12.윤정애, 이향숙, 김홍근, 권혁철. (2012). 뇌졸중 환자에서 기초지능과 관리지능이 일상생활활동에 미치는 영향. 대한작업치료학회지, 20(2), 27-39.
13.이현숙. (2010). 전산화와 전통적인 인지지각기능 평가도구에 대한 고찰. 고령자·치매작업치료학회지, 4(2), 35-46.
14.이희령, 김지연, 한대성. (2012). 한국 작업치료의 인지재활 실태조사. 대한작업치료학회지, 20(2), 73-84.
15.전진숙. (2000). 노인에서 신경인지기능의 진단 및 평가. 생물치료정신의학, 6(1), 126-139.
16.전해숙. (2013). 노인 인지문제 개선 예측요인에 대한 탐색적 연구: 한국 고령자 패널 데이터(KLoSA)를 이용하여. 보건사회연구, 33(2), 461-488.
17.정원국, 장순자, 김동아, 박시운, 이준옥, 이장한, 김선일. (2004). 뇌졸중 및 기타 뇌손상 장애인의 자동차 운전을 위한 인지-지각능력 평가도구(CPAD)와 MVPT, MMSE의 상관관계. 대한뇌졸중학회지, 6(1), 79-87.
18.정재엽, 차수민. (2012). 뇌졸중 환자의 인지장애를 선별하기 위한 몬트리올 인지평가의 적절성. 한국고령친화건강정책학회지, 4(2), 59-65.
19.정경희, 오영희, 이윤경, 손창균, 박보미, 이수연, ... 김소영. (2012). 2011년도 노인실태조사. 서울, 한국: 보건복지부 한국보건사회연구원.
20.최인석, 김재진, 정인원. (1998). 전산화 신경인지기능 검사를 이용한 외상성 두뇌손상환자의 신경인지기능평가. 신경정신의학, 37, 306-317.
21.Baek, Y. K. (1988). Using color, graphics, and animation in a computer assisted learning tutorial lesson. Educational Foundations (Doctoral dissertation). Georgia State University, Georgia.
22.Ballard, J. C. (1996). Computerized assessment of sustained attention: A review of factors affecting vigilance performance. Journal of Clinical and Experimental Neuropsychology, 18, 843-863. doi:10.1080/01688639608408307
23.Blundon, G., & Smits, E. (2000). Cognitive rehabilitation: A pilot survey of therapeutic modalities used by Canadian occupational therapists with survivors of traumatic brain injury. E-Canadian Journal of Occupational Therapy, 67(3), 184-196. Retrieved from http://www.ncbi.nlm.nih.gov/pubmed/10914481
24.Bonder, B. R., & Wagner, M. B. (2001). Functional performance in older adults (2nd ed.). Philadelphia, PA: F. A. Davis.
25.Bottcher, S. A. (1989). Cognitive retraining: A nursing approach of the brain injured. E-Nursing Clinics of North America, 24(1), 193-208. Retrieved from http://www.ncbi.nlm.nih.gov/pubmed/2646611
26.Folstein, M. F., Folstein, S. E., & McHugh, P. R. (1975). "Mini-mental state". A practical method of grading the cognitive state of patients for the children. Journal of Psychiatric Research, 12, 189-198. doi:10.1016/0022-3956(75)90026-6
27.Hannafin, M. J., & Peck, K. L. (1988). The design development and evaluation of instructional software. New York, NY: McMillan.
28.Kane, R. L., Ouslander, J. G., & Abrass, I. B. (1984). Essentials of clinical geriatrics. New York, NY: McGraw-Hill.
29.Mclntyre, A., & Atwal, A. (2005). Occupational therapy and older people. London, UK: Blackwell.
30.Zhang, L., Abreau, B. C., Masel, B., Scheibel, B. S., Christansen, C. H., Huddleston, N., & Ottenbacher, K. J. (2001). Virtual reality in the assessment of selected cognitive function after brain injury. American Journal of Physical Medicine & Rehabilitation, 80, 597-604. doi:10.1097/0000 2060-200108000-00010
31.Zoltan, B. (2007). Vision, perception, and cognition (4th ed.). Thorofare, NJ: Slack.