Makale Nasıl Değerlendirilir ?
Başlıktaki sorunun yanıtı üç grup için önem taşımaktadır. Birincisi makale yazarları, ikincisi dergi editörü ve üçüncüsü de editörün makaleyi değerlendirmek için seçtiği hakemlerdir. Bu bölüme kadar makale yazarken nelere dikkat edilmesi gerektiği tek tek bölümler halinde ayrıntılı şekilde anlatıldı. Aslında tüm bu bölümler, dergi editörü ve hakemlerin bir makaleyi değerlendirirken nelere dikkat ettikleri göz önüne alınarak yazılmışlardır ve dolayısı ile başlıktaki sorunun yazarları ilgilendiren yanıtları bu bölümlerde bulunmaktadır. Başlıktaki sorunun editörleri ilgilendiren yanıtları da bir önceki “Editör nelere dikkat eder ?” bölümünde verilmiştir. Bu bölümde ise eksik kalan bilimsel hakemlik konusu üzerinde durulacak ve bir bilimsel hakemin kendisine gönderilen bir makaleyi nasıl değerlendirmesi gerektiği anlatılacaktır.
Bir araştırmanın kabul görmesi için yayınlanması gerekir. Araştırma; özenli sorgulama, kabul edilegelmiş yargıların değiştirilmesi amacıyla, yeni bulguların ışığında yapılan, genellikle eleştirel ve çok kapsamlı inceleme ve deneyler olarak tanımlanır (13). Bu tanımı aktardığım kitabın TUBİTAK tarafından yapılan 6. baskısında 1800’lerde 100 kadar olan bilimsel dergi sayısının, her 15 yılda ikiye katlanarak 1975’li yılarda 100.000’lere ulaştığı ve gelmiş geçmiş tüm bilim adamlarının % 80-90’ının bugün aramızda yaşamakta olduğu belirtiliyor. Yine aynı kitapta “ publish or perish (yayınla ya da yok ol )” baskısı sonucu senteze ulaşma olasılığını gitgide düşüren, şişirilmiş bir kitap ve makale seli ile karşı karşıya olduğumuz anlatılıyor.
Günümüzde Web of Science kapsamındaki dergilerde, yılda yayınlanan bilimsel makale sayısı, yarıya yakını sağlıkla ilgili alanlarda olmak üzere 1 milyonu aşmıştır. 2003’te ülkemizde sağlık alanında 350 civarında dergi yayınlanıyordu. Demek ki bu makale ve dergi enflasyonundan biz de payımızı almışız.
Çeşitli uzmanlık alanlarının ortaya çıkması ve giderek artan makale sayısı, dergi editörlerinin işlerini zorlaştırmaya başlamıştır. Bu nedenle özellikle ikinci dünya savaşından sonraki yıllarda, dergi editörlerinin makaleleri değerlendirmek üzere bilimsel hakemlerden yardım istemeleri giderek yaygınlaşmıştır.
Bilimsel Hakemlik
Bilimsel Hakemlik; bilimsel bir çalışmanın bulgularını, yeterlilik, önem ve orijinallik açısından, ehliyetli uzmanlarca değerlendirme işlemi olarak tanımlanmaktadır (9).
Çeşitli kaynaklarda referee (hakem), reviewer (eleştirmen), peer review (meslektaş değerlendirmesi / meslektaş eleştirisi), assessor (danışman) kelimeleri bilimsel hakemlik anlamında kullanılmaktadır. Bazı yazarlar bir makalenin yayınlanıp yayınlanmama kararının editöre ait olduğunu ve bu nedenle hakemlerce yapılan işin hakemlik değil de, makaleye yapılan bir eleştiri veya editöre yapılan bir danışman tavsiyesi olduğunu belirtmektedir. Bununla birlikte editörler, her zaman hakemlerden makalenin kabulü veya reddi konusunda görüş isterler. Karar verirken de genellikle hakemlerin önerilerini dikkate alırlar ve nadiren hakemlerin görüşünün aksini yaparlar. Bu nedenle bilimsel hakemlik bir futbol maçını yöneten yan hakemlerin yaptığı işe benzetilebilir. Bu durumda yapılan iş (bayrak kaldırma) eleştiri ve tavsiyenin ötesinde ve editörün kararına (hakemin düdük çalıp çalmamasına) etki edecek önemdedir. Bununla birlikte bilimsel hakemin tek görevi bir makalenin kabulü veya reddi kararında yer almak değildir. Aslında bilimsel hakemin en önemli görevi bir makalenin en iyi şekle getirilip basılmasını sağlamaktır. Bu açıdan bakıldığında hakem aslında çalışmayı yapan grubun bir üyesi gibidir.
Bir makale bir dergiye gönderildiğinde önce editörlerce incelenir. Editörler makalenin derginin alanına girip girmediğini, eğer giriyorsa hakemlere gönderilecek nitelikte bir çalışma olup olmadığını incelerler. Bu nedenle bir makale hakemlere gönderilmeden önce de editörlerce reddedilebilir. Örneğin British Medical Journal grubu dergilere gönderilen makalelerin yarısı editörler tarafında reddedilmektedir. Journal of the American Medical Association’ da bu oran % 42 kadardır. Editörler burada bir elek vazifesi görürler ve nitelikli yayınların dergilerinde yer almasına uğraşırlar. Editör makalenin yayınlanması ve yayınlanacaksa, en iyi şekilde yayınlanması için çalışır. Bu nedenle iyi bir hakem hem yazarlara hem de editöre yardımcı olmalıdır.
Editörler aşamasını geçen bir makale iki veya 3 hakeme gönderilir. İki hakem kullanıldığında çelişkili bir karar olursa üçüncü ve son sözü söyleyecek bir hakemden yardım istenebilmektedir. Bu durumda makale ve önceki hakemlerin görüşleri bu hakem tarafından değerlendirilir.
Bilimsel hakemler dergi editörünce, alanında uzman kişilerden seçilir. Birçok derginin hakem seçmek üzere çok geniş bir veritabanı bulunmakta ve hakemler bu veritabanından seçilmektedir. Bazı editörler önceden e-posta veya faks ile hakemden değerlendirmeyi kabul ettiklerine dair onay alırlar ve makaleyi sonradan gönderirler. Günümüzde bu işlemler internet üzerinden dergi web sayfaları ve e-posta ile yürütülmektedir. Değerlendirmeyi kabul eden hakemlere web sitesinden makaleye erişim için kullanıcı adı ve şifreler gönderilir.
Etik Sorumluluklar
Üzerinde uzun süre çalışmış, tekrar tekrar düzeltilerek yazılmış, çalışma arkadaşlarıyla uzun uzun tartışılmış, tablo, şekil ve kaynakları defalarca gözden geçirilmiş ve imzalanarak bir dergiye gönderilmiş her makale yazarı için önemlidir. Hakem de aslında bir araştırıcıdır. O da bir makale yazmanın zorluklarını ve editörün cevabının heyecanla beklenişini yaşamıştır. Bu nedenle bir taraftan bir meslektaşının gayret ve duygularını anlayışla değerlendirme, diğer yandan da editörün kendisine verdiği görevi hakkıyla yapma gayretinde olmalıdır.
Hakemlerden makaleyi titiz, objektif ve duyarlı bir şekilde değerlendirmeleri beklenir. “Sana nasıl davranılmasını istiyorsan başkasına da öyle davran “ altın kuralı hakemlik yaparken daima akılda bulundurulmalıdır. Eleştiriler makaleye yönlendirilmeli, yazarlar muhatap alınmamalıdır.
Son yıllarda bazı dergiler açık değerlendirme yolunu seçmişlerse de, halen birçok dergi makalenin yazarlarını hakemlerden, hakemleri de yazarlardan gizlemektedir. Editör, hakem ve yazar arasındaki ilişkiler gizlilik prensiplerine göre yürütülür ve tamamen karşılıklı güvene dayanır. Bu nedenle hakemler değerlendirmeyeceği bir makaleyi ya da değerlendirilmesi tamamlanan bir makaleyi e-postasından silmeli (veya posta ile geri göndermeli), makalenin kopyasını saklamamalı, makaleyi başkasına göstermemeli veya içeriğinden bahsetmemeli, yayınlanana kadar çalışmalarında değerlendirdiği makaleden yararlanmamalıdır. Büyük düzeltme istenilen bir makale tekrar değerlendirileceğinden, ikinci değerlendirmeye kadar saklanabilir.
Konuya yabancı olma, vakti olmama, tartışmalı bir konuda kendi bulguları nedeniyle taraf olma, yazarlarla kişisel dostluk veya düşmanlık ya da çıkar çatışması hallerinde, tarafsız davranamayacağına inanan bir hakemin, durumu editöre bildirilerek hakemlikten çekilmesi en iyisidir. Tüm bu nedenlerle adil bir değerlendirme yapamayacağını belirten bir hakemi birçok dergi editörü anlayışla karşılayacaktır.
Editörler hakemlerin, kendi gözetimindeki genç meslektaşlarından yardım almalarına genellikle olumlu bakarlar. Bu nedenle vakti olmayan bir hakem, dergi editöründen de izin alarak makaleyi genç bir meslektaşına inceletebilir. Bu durumda makaleyi inceleyen meslektaşının adı ve hakemin kendi onayı değerlendirmede yer almalıdır.
Bilim dünyasında bir konunun öncüsü olmak büyük bir prestij getirmektedir. Değerlendirmede gecikme, öncelik ve prestijin geçek sahibinden bir başkasına gitmesine neden olabilir. Bu nedenle değerlendirme editörün belirttiği süre içersinde ( genellikle 2-4 hafta arasında değişebilmektedir ) bitirilmelidir.
Hakemlik kişinin kendi bilimsel düzeyini ve bilgisini editörlere gösterme amacıyla yapılmamalı, eleştiriler kısa ve özlü ve gerçekten yararlı olacağına inanılıyorsa yapılmalıdır. Bununla birlikte çok kısa değerlendirmeler, genellikle işin önemsenmeden yapıldığını düşündürür. Birçok değerlendirme 1-2 sayfayı geçmez. Red kararı verilse bile, nedenleri yazara anlatılmalı ve kendisini geliştirmesi için fırsat sunulmalıdır.
Makalede yayın etiğine aykırı durum (aşırma, tekrarlama, salamlama vb.) kuşkusu varsa editöre bu durum delilleriyle birlikte açıklanmalıdır. Bu durumda karar verici durumda olmamalı ve konunun incelenip sonuçlandırılması editöre bırakılmalıdır. Çalışmada insan veya hayvan hakları ihlali varsa editöre bildirilmelidir.
Değerlendirme nasıl yapılır ?
Bilim dünyası devamlı bir rekabet içindedir. Bu nedenle editörler kendi dergilerine en iyi yayınların bulunmasını için çalışırlar ve hakemlerin bir makalenin özellikle üç yönünü öncelikle değerlendirmesi isterler.
1. Çalışma yenilik getiriyor mu ?
Bütün deneyler bir eleştiridir. Eğer bir deney bilimcinin fikirlerini yeniden gözden geçirmeye neden olacak olanaklar içermiyorsa, o deneyin neden yapılmış olduğunu anlamak zordur… Bilimcinin günlük işi bilgi toplamak değil teori sınamaktır. Bilimde üretkenliği sağlayan şey yaratıcı tahminler yapmaktır (7).
P.B. Medawar
Her gün bir yerden göçmek ne iyi
Bulanmadan donmadan akmak ne hoş
Dünle birlikte gitti cancağızım ne varsa düne ait
Şimdi yeni şeyler söylemek lazım
Mevlana
Bir çalışmanın en önemli özelliği yenilik getirmesidir. Bilim dünyasında gerçekten yeni olan bilgi bulmak zordur. Bu nedenle yenilik aslında üzerinde çalışılan bir konuda yeni bir bulgunun açıklanması anlamına gelmektedir. Tartışmalı olan bir konuda kesin sonuç bulmak da yenilik sayılır. Daha önceki bulgulara katkı yapan, ya da o konudaki en kapsamlı bulguları açıklayan çalışmalar da yeni ve yararlı sayılır. Daha önce çalışılan ve açıklanan bir konunun, farklı bir populasyonda ya da günümüzde de aynı sonuçlarla tekrarlanması ise yeniliğin en zayıfı sayılır.
2. Çalışma doğru yapılmış mı ?
Bir çalışmada doğruluğu sağlayan başlıca faktörler; çalışmada kullanılan yöntemlerin soruna (hipoteze) cevap bulabilecek şekilde seçilmesi, uygun çalışma ve kontrol gruplarının bulunması ve istatistik hesapların doğru şekilde yapılmasıdır. Yöntemler geçerli, tekrarlanabilir ve kesin sonuç veren yöntemler olmalıdır. Çalışmada sonuçları etkileyecek, kontrol edilmeyen değişkenler bulunmamalıdır.
3. Çalışma sonuçları önemli mi ?
Genç bilimci sadece bilgi toplayarak -özellikle kimseye yararı olmayan türden bilgiler- ün veya ayrıcalık kazanacağını sanmasın. Ama dünyayı, teorik veya deneysel yönden daha anlaşılabilir kılacak herhangi bir katkıda bulunabilirse meslektaşlarının minnet ve saygısını kazanacaktır.
P.B. Medawar
Bir hipotez oluşturulmasını sağlayacak verilere ulaşan çalışmalar çok değerlidir ve tüm editörlerce çok önemsenir. Bunun dışında bir makalenin önemi ve öneminin derecesi dergiden dergiye değişebilir. Klinik tıp konusundaki bir dergide en önemli sonuçlar tedaviyle ilişkili olanlardır. Bir hastalığın tanısında ya da ciddiyetinin sınıflandırmada yeni bir yöntem geliştiren, ya da daha önce kullanılan tartışmalı bir metodu geçerli kılan çalışmalar da bu gibi dergiler için önemli çalışma sayılır. Hastalık mekanizmasını ya da prognozu tanımlayan çalışmalar da bu dergiler için dikkate değer çalışmalardır. Buna karşın Temel tıp bilimleri ile ilgili dergilerde, biyolojik bir sürecin mekanizmasını, bir hastalığın mekanizmasını açıklayan çalışmalar daha çok önemsenir.
Genellikle bu üç kritere göre makalenin yayınlanmasının uygun olup olmadığına karar verilir. Eğer makalenin yayınlanması uygun görülüyorsa, bir sonraki aşama bunun nasıl olacağına karar vermektir. Bir makalenin olduğu gibi yayına kabul edilmesi çok seyrektir. Birçok makale az veya çok değiştirilerek yayınlamaktadır. Editörler genellikle düzeltmelerin büyük ve küçük düzeltmeler olarak ikiye ayrılmasını isterler.
Büyük düzeltmeler : Çalışmanın neden yapıldığının yeterince açık bir şekilde açıklanmamış olması, çalışmanın iyi planlanmaması, geçerli olmayan yöntemlerin kullanılması veya kullanılan metotların ayrıntılı şekilde anlatılmaması, verilen sonuçların açık ve kesin olmaması sonucu ölçümler konusunda kuşku duyulması, sonuçların yetersiz veya aşırı spekülasyonlarla tartışılması, varılan sonucun yeterli ve objektif olmamamsı gibi nedenlerle, hakemlerin yazarlardan yapmalarını isteyecekleri düzetmelerdir. Aslında bu konulardaki eksik ve yanlışlıkların bazıları ( örneğin yanlış planlanmış bir çalışma, yanlış metod veya geçersiz bir metod kullanılması gibi) yazar tarafından düzeltilemeyecek ve makalenin reddi ile sonuçlanacaktır.
Küçük düzeltmeler : Genellikle makalenin gelişimine katkısı olan eleştirilerdir. Girişin daha iyi yazılması, ilave kaynakların ve bilgilerin eklenmesi, gramer ve yazım hatalarının düzeltilmesi gibi işlemlerdir.
Genel ve sistematik değerlendirme
Editörler makalenin sistematik bir şekilde değerlendirilmesini isterler ve hakemlere makale ile birlikte, bu değerlendirmenin işleneceği bir formu (basılı ya da elektronik) da gönderirler. Makale bu form doldurularak değerlendirilir. Bu formlarda ek açıklamalar için de bölümler vardır. Büyük ve küçük düzeltmeler makaledeki sayfa ve paragraf ve satır numaraları ile belirtilir. Bazı dergilerde tüm makalede her satır numaralanmıştır ve sadece bu numaraları belirtmek yeterlidir.
Form gönderilmemişse, kısa bir yazı ile editöre makale hakkındaki kanaat belirtilir. Çalışmanın önemi, güçlü ve zayıf yönleri ile nihai karar bildirilir. Bu bölüm yazara iletilmeyeceğinden editörle paylaşılacak, gizli bilgiler burada belirtilir. Editörün yazarla paylaşacağı ikinci bir sayfaya makale hakkındaki eleştiriler yazılır. Burada makale başlığı ve bir paragraflık özeti belirtilerek, eleştiriler sıralanır.
Editör hakemden genellikle 4 karardan birisini vermesini ister. Olduğu gibi kabul, küçük düzeltmelerle kabul, büyük düzeltmelerle kabul veya red.
Makale değerlendirilirken, makale hakkında önemli kanaat verecek giriş, metod, sonuçlar ve tartışma bölümleri ve yazım kalitesi dikkatlice incelenmelidir.
Giriş
Konunun önemi, çalışmanın amacı açıklanmış olmalı, konu hakkında bilinen ve bilinmeyenleri açıklamalıdır. Aynı konuda daha önceden yapılmış önemli çalışma(lar) atlanmamalıdır.
Metod
Bir yayında teknik ayrıntıları saklayıp, hem başkalarının aynı kaynaktan yaralanarak sürdürebilecekleri yeni araştırmaları, hem de yayınlanan çalışmanın bilim-kurgudan öte bir şey olmadığının araştırılmasını engellemek bilimcilik sanatının aşağılık – ve affedilmez – bir hilesidir.
P.B. Medawar
Metodlar çalışmanın başka biri tarafından tekrarlanabilmesini sağlayacak şekilde açık olmalıdır. Çalışma için kullanılabilecek farklı metodlardan çalışmada kullanılanın seçim nedeni açıklanmalıdır. Çalışma için seçilen örnek büyüklüğü istatistiksel olarak hesaplanmış ve yeterli olmalıdır. Çalışma ve kontrol grupları istatistiksel anlamlılık verecek kadar büyük olmalıdır. Çalışmada uygun kontroller bulunmalı, deney ve kontrol grupları uygun şekilde oluşturulmalıdır. Deney planı hipotezin sınanması için uygun olmalıdır. Ölçümler geçerli yöntemlerle ve doğru yapılmalı, neden yapıldıkları açıklanmalıdır. İstatistik hesaplamalar uygun şekilde yapılmalıdır. İstatistik hesaplamalar konusunda kuşku varsa ve hakem bu konuda deneyimli değilse, durumu editöre bildirir. Editör gerekli görürse çalışmanın istatistiklerini bu konuda uzman bir dergi çalışanına veya bir başka hakeme inceletecektir.
Sonuçlar
İyi bir araştırma, zekice planlanıp ustaca uygulanmış bir deney değildir. Kesin sonuç veren bir deneydir.
P.B. Medawar
Başkalarının da değerlendirebilmesi için, bulgular açık şekilde belirtilmelidir. Tablo ve şekiller ancak gerekli ise konmalı ve kolayca anlaşılabilecek açıklık ve sadelikte olmalıdır. Tablo ve şekiller derginin istediği formatta hazırlanmalı, çalışma bulguları ile yakından ilgili ve çalışma bulgularını açıklayıcı olmalıdır. Bulgular metod bölümünde belirtilen şekilde saptanmış olmalıdır.
Tartışma
Bir gün bir gökbilimci, bir fizikçi ve bir matematikmiş birlikte İskoçya dağlarında yürüyüşe çıkmışlar. Bir süre sonra bir çiftliğin önünde tek başına otlayan bir koyun görmüşler. Uzaktan koyuna bakan gökbilimci “Demek ki dağlardaki koyunlar siyah” demiş.
Bunun üzerine fizikçi söze karışarak “Bu kadar çabuk genelleyemezsin” diyerek, konuşmasını “Örneklemin çok küçük. Ancak dağların genelinde çok sayıda koyunu titiz bir incelmeden geçirdikten sonra böyle bir önermede bulunabilirsin. Şu an için söyleyebileceğin tek şey İskoçya’da siyah koyunlar bulunduğudur” diye sürdürmüş ve matematikçiye dönerek görüşünü sormuş.
Bunun üzerine matematikçi ise “Kusura bakmayın ama ben ikinizle de aynı fikirde değilim. Bu konuda söylenebilecek tek şey, şurada duran hayvanın bize dönük tarafının siyah olarak göründüğüdür” demiş (5).
Çalışmada ulaşılan yeni bulgular açıkça belirtilmiş ve üzerinde durulmuş olmalıdır. Varılan sonucu destekleyen bulgular yeterli olmalıdır. Sonuçların başka türlü yorumu olası ise bunlar belirtilmelidir. Mevcut bulgularla önceki veriler tartışılmış olmalıdır. Beklenmeyen bir sonuç varsa, bunun üzerinde durulmalı ve olası nedenler irdelenmelidir. Çalışmanın özgün yönü vurgulanmış olmalıdır. Çalışmanın hangi haller ve durumlar için kısıtlı olduğu belirtilmelidir. Çalışmanın daha ileri götürülmesi için öneriler bulunmalıdır.
Yazım kalitesi
Bir konuda iyi yazılmış bir yazı hemen her zaman aynı konuda kötü yazılmış bir yazıdan daha kısadır; daha da kolay hatırlanır.
P.B. Medawar
İyi bir yazım kötü bir çalışmayı kurtaramaz ama kötü bir yazım iyi bir çalışmayı batırabilir. Makalenin başlıktan-kaynaklara dek kısa ve özlü ve doğru şekilde yazılıp yazılmadığı, editörlerce çok önemsenir. Bu nedenle birçok dergide yazım ve gramer hataları, bu iş için bulundurulan özel sekreterler tarafından düzeltilmektedir. Hakemin yazım ve gramer hataları üzerinde özellikle durması istenmez. Ancak gördüğü genel hataları kısaca işaret etmesi gerekir.
Not: Okuyuculara çok değerli hocam, sayın Prof Dr Kurtuluş TÖRECİ’nin kaynaklar bölümünde belirttiğim makalelerindeki, bilimsel hakemlik konusunda yazdıklarını da okumalarını öneririm.
KAYNAKLAR
- Benos DJ, Bashari E, Chaves JM, et al. The ups and downs of peer review. Adv Physiol Educ 2007; 31: 145-52.
- Benos DJ, Kirk KL, Hall JE. How to revıew a paper. Advan Physiol Educ 2003; 27: 47-52.
- Cummings P, Rivara FP. Reviewing manuscripts for Archives of Pediatrics & Adolescent Medicine. Arch Pediatr Adolesc Med 2002; 156: 11-3.
- DeMaria AN. How do I get a paper accepted? J Am Coll Cardiol 2007; 49: 1666-7.
- Ghose P, Home D. Gündelik Bilmeceler. 3. baskı. TUBİTAK Popüler Bilim Kitapları, No:25, 1996.
- Macauley D. The role of the manuscript assessor. In: Hall GM (ed): How to Write a Paper ? 3rd ed. BMJ Publishing Group, 2003:114-25.
- Medawar PB. Genç Bilimadamına Öğütler. 9. baskı. TUBİTAK Popüler Bilim Kitapları, No:5, 1996.
- Peat J, Elliott E, Baur L, Keena V. Scientific Writing Easy When You Konow How. BMJ Publishing Group, 2003: 121-46.
- Peer Review And The Acceptance Of New Scientific Ideas. http://www.senseaboutscience.org.uk/pdf/PeerReview.pdf
- Pierson DJ. The top 10 reasons why manuscripts are not accepted for publication. Respir Care 2004; 49: 1246-52.
- Provenzale JM, Stanley RJ. A systematic guide to reviewing a manuscript. Am J Roentgenol 2005; 185: 848-54.
- Rosovsky H. Üniversite: Bir Dekan Anlatıyor. 6. baskı.TUBİTAK Popüler Bilim Kitapları, No:6, 1996.
- Seals DR, Tanaka H. Manuscript peer review: a helpful checklist for students and novice referees. Adv Physiol Educ 2000; 23: 52-8.
- Sylvia LM, Herbel JL. Manuscript Peer Review - A Guide for Health Care Professionals. Pharmacotherapy 2001; 21: 395-404.
- Töreci K. Bir makale yayınlamak.In: Aslan G, Emekdaş G, Köksal F, Serin MS (eds): IV. Ulusal Sindirim Yolu ile Bulaşan İnfeksiyonlar Simpozyumu: Tutanaklar s.246-259, Mersin (16-20 Mayıs 2005).
- Töreci K. Yayın etiği. In: Leblebicioğlu H, Ünal S (eds): Akademisyenin El Kitabı. Bilimsel Tıp Kitabevi (baskıda)