روايي آزمون‌هاي ورودي دكتري مهندسي1397

Validity of PhD Entrance Exams of Engineering in 1397

عملكرد موفقيت‌آميز داوطلب دوره دكتري مهم‌ترين عامل در تصميم‌گيري اعضاي كميته پذيرش است كه كمك مي‌كند كدام داوطلب را بپذيرند. يكي از مباحثي كه هميشه همراه با نمره‌هاي آزمون‌هاي پذيرش وجود داشته، مسئله روايي نمره‌هاي در پيش‌بيني عملكرد موفقيت‌آميز داوطلبان بوده است. هدف از اجراي اين پژوهش، بررسي روايي ملاكي-پيش‌بين نمره‌هاي آزمون‌هاي تخصصي در چهار رشته دكتري مهندسي روي سنجه‌هاي مصاحبه به‌عنوان ملاك عملكرد موفقيت‌آميز بوده است. در اين پژوهش كه توصيفي از نوع همبستگي است، رتبه‌هاي داوطلبان در آزمون‌هاي اختصاصي و مصاحبه در چهار رشته دكتري مهندسي در سال 1397 بر اساس تئوري تعميم‌پذيري تحليل شدند. بسته به رشته دانشگاهي داده‌هاي آزمون‌شوندگان دربرگيرنده نمره آنها روي 3 تا 8 خرده‌آزمون اختصاصي و 2 نمره تركيبي ملاك مصاحبه بود. داده‌ها با نرم‌افزار mGENOVA بر اساس يك طرح تك‌رويه‌اي تحليل شدند. سپس همبستگي بين دو نمره جهاني تركيبي با توزيع نرمال دومتغيري در نمودار پراكندگي نشان داده شده است. نتايج نشان مي‌دهد نمره‌هاي آزمون‌هاي تخصصي به‌خوبي مي‌توانند نمره‌هاي افراد را در ملاك مصاحبه به‌عنوان شاخص عملكرد موفقيت‌آميز يا كيفيت داوطلب پيش‌بيني كنند (به‌جز در رشته فناوري اطلاعات)؛ تعداد زياد خرده‌آزمون‌هاي تخصصي، ناپايايي آنها و واريانس نابسته به سازه از عواملي هستند كه مي‌توانند پيش‌بيني‌هاي درست براي پذيرش يا رد داوطلبان را –به‌ويژه روي نمره برش- تحت تأثير قرار دهند. اگرچه پيش‌بيني دقيق عملكرد موفقيت‌آميز داوطلبان دوره دكتري به وسيله نمره‌هاي آزمون‌ها هدف دست نيافتني است، اما تعريف بهتر آنچه ملاك موفقيت در دوره دكتري است و بااهميت‌تر شدن آزمون‌هاي عمومي زبان و استعداد و هم‌زمان تعديل سطوح دشواري اين آزمون‌ها و كاهش خطاي اندازه‌گيري سنجه‌هاي پيش‌بيني‌كننده در يك برنامه سنجش دومرحله‌اي كه در آن آزمون‌هاي عمومي زبان و استعداد به‌عنوان غربال اوليه توسط سازمان سنجش برگزار شود و آزمون‌هاي اختصاصي و مصاحبه توسط دانشگاه‌ها، مي‌تواند راه بهينه‌اي باشد براي افزايش روايي نمره‌هاي آزمون‌ها در پيش‌بيني عملكرد موفقيت‌آميز داوطلبان و پذيرش دانشجويان باكيفيت‌تر. كليدواژه‌ها

The quality of a PhD candidate’s performance is the most important factor that can affect admission committee members’ decision-making and selection of applicants. One of the issues that has always accompanied candidates’ scores in admission exams is the validity of these scores in predicting the candidates’ successful performance . The primary purpose of this research was evaluating the predictive criterion validity of subject tests scores in four engineering PhDprograms on interview measures as the criterion for successful performance . In this descriptive correlational study, candidates’ scores in subject tests and interviews in four engineering PhD programs in 2018 were analyzed based on the Generalizability theory. Depending on their majors, examinees’ data included their scores on 3 to 8 subtests in subject tests and 2 composite interview criteria . Data were analyzed using mGENOVA software based on a multivariate analysis with a single facet design. The relationship between two composite universe scores was illustrated by the bivariate normal distribution in a typical scatter diagram. The results show that subject tests scores can predict candidates’ scores on the interview criterion as an index for successful performance except in the field of Information Technology. The large number of subtests in subject tests,their instability, and the construct irrelevant variance were among the factors that may influence the accuracy of predictions, especially on the cut scores, for accepting or rejecting candidates. Accurately predicting the success of an applicant’s performance based on test scores is an unattainable goal. However, precisely defining the criteria for success in PhD programs, increasing the significance of general English and aptitude tests, adjusting the difficulty level of tests, reducing measurement error in predictive measures , having a two-step assessment program in which the general language and aptitude tests are administered as a primary screening by NOET and the subject tests and interviews by universities can be effective method to increase the criterion validity of test scores in predicting candidates’ successful performance and enhance the chances of admitting more qualified students.