Açık uçlu soruların değerlendirilmesinde nesnelliği sağlamak ve puanlayıcılar arasındaki farkları en aza indirmek için doğru bir rubrik mimarisi kurmak gerekir.
Rubrik hazırlama, açık uçlu yanıtların, projelerin veya performans görevlerinin önceden tanımlanmış ölçütlere göre puanlanmasını sağlayan dereceli bir puanlama anahtarı oluşturma sürecidir. Bu süreç, değerlendiricinin kişisel kanaatlerini asgariye indirerek puanlamada objektiflik, şeffaflık ve zaman içinde tutarlılık sağlar. Yanıtın hangi boyutunun kaç puan getireceği açıkça belirlenir.
Puanlama amacına göre tercih edilecek rubrik formatı değişir. Ölçme sürecinin odağında genel bir izlenim edinmek mi yoksa adayın her bir beceri bileşenini ayrıntılı görmek mi olduğu netleştirilmelidir.
Bütüncül (holistik) rubrikler, çalışmanın genel niteliğini tek bir puan üzerinden değerlendirir. Öğrencinin veya adayın sunduğu yanıt bir bütün olarak ele alınır ve genel kalite seviyesine göre tek bir nota dönüştürülür. Zaman tasarrufu sağlar ancak gelişim alanlarına dair ayrıntılı geribildirim sunmaz. Hızlı tarama gerektiren geniş ölçekli sınavlarda tercih edilir.
Analitik rubrikler ise görevi alt bileşenlere ayırır. Örneğin yazılı bir vaka analizinde; 'kavramsal doğruluk', 'analiz derinliği' ve 'çözüm önerisinin uygulanabilirliği' ayrı sütunlarda ele alınır. Her ölçüt bağımsız biçimde derecelendirilir. Bireyin güçlü ve zayıf yönlerini açıkça ortaya koyduğu için öğrenme sürecini destekler. Ölçme uzmanlarının etkili geribildirim verme yöntemleri kapsamında sıklıkla analitik yapıları önermesi bu nedenledir.
Etkili bir rubrik hazırlama çalışmasında 4 seviyeli ölçekler (örneğin; Başlangıç, Gelişmekte, Yetkin, İleri Düzey) sıkça tercih edilir. Çift sayıda seviye kullanmak, puanlayıcının kararsız kaldığında sürekli orta noktayı seçme eğilimini engeller.
Açık uçlu puanlama tasarımında şu adımlar izlenmelidir:
Ölçüt yazarken 'iyi analiz etmiş' gibi öznel yargılar yerine 'en az iki somut gerekçe sunmuş' gibi nesnel kanıtlar kullanmak değerlendirme güvenirliğini doğrudan artırır. Bu durum, soruların ayırt ediciliğini incelerken de kritik bir rol oynar; nitekim madde analizi teknikleri rubrik netliğinin soru geçerliliğine doğrudan etki ettiğini gösterir.
Birden fazla değerlendiricinin görev aldığı süreçlerde, aynı yanıta çok farklı puanların verilmesi puanlama güvenirliğini zedeler. İki puanlayıcı arasında tutarlılık sağlamak için rubriğin netliği kadar uygulama yöntemi de önemlidir.
Değerlendirme öncesinde puanlayıcıların bir araya gelerek 'kalibrasyon oturumu' yapması önerilir. Bu oturumda önceden belirlenmiş birkaç örnek yanıt (düşük, orta ve yüksek nitelikli) birlikte puanlanır ve farklar tartışılarak ortak bir standart oluşturulur. Ayrıca puanlayıcıların değerlendirme sırasında aday isimlerini görmemesi, halesi (halo) etkisini ve önyargıları azaltır.
Tested platformunda açık uçlu soruları içeren süreçler kurgulanırken sınırsız test oluşturma ve detaylı Excel/PDF raporlama özellikleri ücretsiz olarak kullanılır. Platformdaki yapay zeka destekli açık uçlu soru analizi özelliği ise ilk denemede ücretsiz olarak test edilebilir; geniş ölçekli ve sürekli kullanımlarda Enterprise plan üzerinden puanlama hızını destekler.
Rubrik hazırlama sürecinde en sık rastlanan hata, ölçütleri somutlaştırmak yerine göreceli sıfatlara bırakmaktır. 'Yeterli düzeyde açıklanmış' ifadesi bir puanlayıcı için üç cümle iken başka bir puanlayıcı için kapsamlı bir paragraf anlamına gelebilir.
Bir diğer yaygın hata ise yanıtın içeriği ile biçimsel unsurlarını birbirine karıştırmaktır. Yazı güzelliği, sayfa düzeni veya dilbilgisi kuralları sorunun ana hedefi değilse, bu unsurların kavramsal bilgi puanını düşürmesine izin verilmemelidir. Biçimsel unsurlar gerekiyorsa bağımsız ve düşük ağırlıklı ayrı bir ölçüt olarak tanımlanmalıdır.
Hazırladığınız rubriği gerçek bir sınavda uygulamadan önce, daha önce verilmiş 4-5 farklı öğrenci yanıtı üzerinde deneyin. Ölçütlerin gri alan bırakıp bırakmadığını bu pilot uygulama sayesinde önceden görebilirsiniz.
Bütüncül rubrik çalışmayı genel izlenime dayalı tek bir toplam puanla değerlendirirken, analitik rubrik görevi farklı alt ölçütlere bölerek her birini bağımsız puanlar.
Genellikle 4 veya 5 seviye tercih edilir. 4 seviyeli ölçekler, değerlendiricinin orta noktaya sığınma eğilimini engellediği için daha net bir ayrım sağlar.
İki veya daha fazla değerlendiricinin aynı yanıtlara verdiği puanlar arasındaki uyum, sınıf içi korelasyon katsayısı veya Cohen Kappa gibi istatistiksel yöntemlerle hesaplanır.
Yasal bir zorunluluk olmasa da değerlendirmede sübjektifliği önlemek, adil puanlama yapmak ve geçerli ölçme sonuçları elde etmek için rubrik kullanımı temel bir gerekliliktir.