Calibrating PIRLS Test in Sultanate of Oman Using Item Response Theory

Amal K. Al-zaabi, Abdulhameed Hassan, Rashid S. Al-mehrzi

Abstract


The study aimed to calibrate Oman data of the PIRLS test using the graded response model and to examine the psychometric properties of it, as well as identify the fit and unfit of its items. PIRLS2011 test booklets were used, which consisted of 146 test items (74 dichotomous and 72 polytomous). Items were divided into 13 booklets; each with two blocks (one literary and one informational). PIRLS test booklets were administered to 13 groups of fourth grade students in Sultanate of Oman with a total sample of 10394 students. Assumptions of IRT (unidimensionality and local independence) were examined and supported. Also, item fit was examined and supported using Samejima’s graded response model. The data was analyzed by Multilog7.03 program to estimate both item and ability parameters. Results indicated that the assumptions of IRT were proved. Also, IRT analysis revealed that 8 items showed unfit which represents only 5% of the test items. So, this result confirms that the test has good psychometric properties under the IRT.

Keywords


PIRLS test, psychometric properties, fourth grade, Oman.

Full Text:

PDF

References


أحمد، محمد محمد (2010). بناء وتدريج بطارية لقياس الاستعداد الأكاديمي للقبول بالجامعات باستخدام الاختبارات مرجعية المحك CRT ونظرية الاستجابة للمفردة IRT. مجلة كلية التربية، 7 (144)، 641- 557.

إبراهيم، نسرين اسماعيل؛ الغاوي، هالا عبد الحميد؛ عبد الهادي، سوسن اسماعيل (2009). مقارنة بين النماذج اللوغاريتمية لنظرية الاستجابة للمفردة من حيث ملائمتها للبيانات. مجلة البحث العلمي في التربية- مصر، 10 (4)، 295-328.

الحجازين، نايل عيد (2014). نماذج نظرية الاستجابة للمفردة متعددة التدريج متعددة الأبعاد وبرامجها الحاسوبية. عمان: دار جليس الكتاب.

حمادنة، إياد محمد) ٢٠٠٩. ( استخدام نظرية الاستجابة للمفردة في بناء اختبار محكي المرجع في الرياضيات وفق النموذج اللوجستي ثلاثي المعلم. مجلة العلوم التربوية والنفسية،١٠ (2)، ٢١٥- 238.

الرحيل، راتب صايل (2013). أثر وجود اداء تفاضلي في المفردات المرساوية على دقة المعادلة العمودية لاختبار اوتيس لينون للقدرة العقلية. المجلة الدولية التربوية المتخصصة، 2 (8)، 754-771.

الصمدي، محمد سعيد (2014). مشاركة الأطفال المغاربة في المباراة الدولية لقياس الكفاية القرائية بيرلز PIRLS. البيداغوجي، (1)، 69-74.

النفيعي، عبد الرحمن أحمد (2012). الخصائص السيكومترية لاختبار المصفوفات المتتابعة المتقدم في ضوء نظرية الاستجابة للمفردة الاختبارية. مجلة كلية التربية، 2 (147)، 214- 175.

النعيمي، عز الدين (2011). أثر الزيادة في عدد المفردات المرتبطة على الخصائص السيكومترية للاختبار. مجلة اتحاد الجامعات العربية للتربية وعلم النفس، 9(3)، 1-22.

عبد الوهاب، محمد محمود (2010). استخدام نماذج الاستجابة للمفردة الاختبارية في تدريج مفردات بعض الاختبارات المعرفية. (رسالة دكتوراه غير منشورة)، جامعة المنيا، جمهورية مصر العربية.

عبد الوهاب، محمد محمود(2014). التحقق الامبريقي من تكافؤ افتراضي أحادية البعد والاستقلال الموضعي للمفردات. للنشر في المجلة التربوية، الكويت، مجلس البحث العلمي.

علام، صلاح الدين محمود (2005). نماذج الاستجابة للمفردة الاختبارية أحادية البعد ومتعددة الأبعاد وتطبيقاتها في القياس النفسي والتربوي. القاهرة: دار الفكر العربي.

فخرو، حصة عبد الرحمن؛ وعبد الرحيم، أنور رياض؛ محمد، محمد (2009). فاعلية استخدام نموذج سلم التقدير في تحليل مفردات مقياس مداخل الدراسة لدى طبة جامعتي المنيا وقطر. مجلة البحث في التربية وعلم النفس، 22 (2)، 135-175.

المديرية العامة للتقويم التربوي (2011). التقرير الوطني للدراسة الدولية لقياس مهارات القراءة بيرلز 2011. سلطنة عمان.

المديرية العامة للتقويم التربوي (2011). دليل المشرف على إدارة الامتحانات-الصف الرابع- المسح الرئيسي. سلطنة عمان.

المديرية العامة للتقويم التربوي (2011). دليل منسقي المدارس TIMSS & PIRL2011. سلطنة عمان.

هيبة، محمد أحمد علي؛ عمر، محمود أحمد (2011). تكافؤ قياس القائمة المختصرة للعوامل الخمسة للشخصية بين الجنسين في ضوء نظرية الاستجابة للمفردة ونمذجة المعادلة البنائية. مجلة القراءة والمعرفة- مصر، 115، 91-131.

وزارة التربية والتعليم (2014). دليل الدراسة الدولية لقياس مهارات القراءة (PIRLS). سلطنة عمان.

Baker, F. B. (2001). The basics of item response theory. USA: Eric.

Foy, P., Martin, O., Mullis, V. S., & Stanco, G. (2011). Methods and procedures- reviewing the TIMSS and PIRLS 2011 achievement item statistics. Chestnut Hill: Boston college. Retrieved from http:timssandpirls.bc.edu. 18/12/2016.

Gleason, J .(2008). An evaluation of mathematics competitions using item response theory. Notices of The Ams, 55 (1), 8-15.

IEA’s Progress in international reading literacy study. (2011). Methods and procedures- sampling implementation. Chestnut Hill: Boston college. Retrieved from

http:timssandpirls.bc.edu. 18/12/2016.

IEA’s Progress in international reading literacy study. (2011). Population coverage and sample participation rates- Appendix- C. Chestnut Hill: Boston college.

Kolen, M., J. & Brennan, R.L. (2004). Test equating, scaling, and linking: methods and practice. New York: Springer.

Marian, S., & Jay, C. (2001). Developing the PIRLS reading assessment. In Campbell, J. R., Kelly, D. L., Mullis, I.V. S., Martin, M.O., & Sainsbury, M. (2001). Framework and specifications for PIRLS assessment 2001. (2nd ed.). Chestnut Hill, MA: Boston college.

Mullis, V. S., Martin, O., Kennedy, A. M., Tong, L., Sainsbury, M. (2009). PIRLS 2011 assessment framework.‏ Chestnut Hill: Boston college.

Mullis,V., Martin, O., Minnich, A., Drucker, T., & Ragan, A. (2012). PIRLS 2011 encyclopedia- education policy and curriculum in reading- volume 1:AK. Chestnut Hill: Boston college.

Mullis,V., Martin, O., Minnich, A., Drucker, T., & Ragan, A. (2012). PIRLS 2011 encyclopedia- education policy and curriculum in reading- volume 2:LZ. Chestnut Hill: Boston college.

Mullis, V. S., Martin, O., & Foy, P. (2011). The impact of reading ability on

TIMSS mathematics and science achievement at the fourth grade: An analysis by item reading demands. TIMSS and PIRLS 2011, 67-108.

Oishi, S. (2005). The concept of life satisfaction across cultures: An IRT analysis. Journal of Research in Personality, 40(4), 411-423.‏

Ratri, S. Y. (2015). Student factor infl uencing Indonesian student reading literacy based on PIRLS data 2011. Journal Of Education, 1(1), 24-32.

Reese, L. M. (1999). A classical test theory perspective on LSAT local item dependence. LSAC research report series. Statistical report.

Stage, C. (2003). Classical test theory or item response theory: The swedish experience. Santiago, Chile.

Scherbaum, C. A., Cohen-Charash, Y., & Kern, M. J. (2006). Measuring general self-efficacy: A comparison of three measures using item response theory. Educational and Psychological Measurement, 66(6), 1047-1063.

Sijetsma, K. Junker, B.(2006). Item response theory: Past performance, present development, and future expectations. Behaviormetrika, 33 (1), 75-102.

Tunmer, W. E., Chapman, J. W., Greaney, K. T., Prochnow, J. E., & Arrow, A. W. (2013). Why the New Zealand National Literacy Strategy has failed and what can be done about it: Evidence from the Progress in International Reading Literacy Study (PIRLS) 2011 and Reading Recovery monitoring reports. Australian Journal of Learning Difficulties, 18(2), 139-180.

Ueno, M. (2002). An extension of the IRT to a network model. Behaviormetrika, 29(1), 59-79.‏

Yang, W. L., & Houang, R. T. (1996). The effects of anchor length and equating method on the accuracy of test equating: Comparisons of linear and IRT-based equating using an anchor-item design. Paper presented at the annual meeting of the American Educational Research Association, New York.

Zenisky, A., Hambleton, R., & Sireci, S. (2002). Effects of local item dependent on the validity of IRT item, test and ability statistics. Unpublished Phd thesis. University of Massachusetts.

Zimmerman, L. (2014). Lessons learnt: Observation of Grade 4 reading comprehension teaching in South African schools across the Progress in International Reading Literacy Study (PIRLS) 2006 achievement spectrum. Reading & Writing-Journal of the Reading Association of South Africa, 5(1), 1-9.

Zubairi, A. M., & Kassim, N. L. A. (2016). Classical and Rasch analyses of dichotomously scored reading comprehension test items. Malaysian Journal of ELT Research, 2(1), 1-26.




DOI: http://dx.doi.org/10.24200/jeps.vol13iss3pp496-515

Refbacks

  • There are currently no refbacks.




Copyright (c) 2019 Amal K. Al-zaabi, Abdulhameed Hassan, Rashid S. Al-mehrzi

JEPS 2017-CC BY-ND

This journal and its content is licensed under a Attribution-NoDerivatives 4.0 International.

Flag Counter