דה-מרקר "והטבלאות המפחידות שאנחנו 
לא רוצים להביט בהן"

תקציר: הפוסט מציע מבט ביקורתי על מעמדה של ישראל לפי בדו״ח התחרותיות שפירסם השבוע הפורום הכלכלי העולמי. ועל הדיווח של זה בעיתון דה-מרקר

הפירסום בדה-מרקר

בעיתון דה-מרקר פורסמה אתמול כתבתו של גיא רולניק תחת הכותרת "מונופול הגז והטבלאות המפחידות שאנחנו 
לא רוצים להביט בהן". בכתבה נכתב:

שש הטבלאות משמאל לא פורסמו השבוע בעיתונות הישראלית. ייתכן שהן יוכלו להסביר לכחלון את האכזבה שחשים רבים ממנו. ייתכן שהן יוכלו להסביר מדוע יש כאלה שלא מאוכזבים ממנו, אלא דווקא אדישים כלפי מה שהוא עושה או לא עושה.

הטבלאות האלה כלולות בדו״ח התחרותיות שפירסם השבוע הפורום הכלכלי העולמי. הן מבוססות על מאות סקרים וניתוחים שכלכלני הפורום וכלכלנים של ארגונים ציבוריים אחרים עורכים בכל מדינות העולם.

העיתונות הישראלית מפרסמת מדי שנה את הדירוג הכולל של ישראל במדד העולמי, מציינת אם עלינו או ירדנו ומדגישה את ההישגים המרשימים של ישראל בתחום החדשנות, הטכנולוגיה והיזמות. בתחומים האלה אכן יש במה להתגאות.

הציטוט הזה היה מלווה בטבלה הבאה:

1648511334

אז מה הבעיות בכתבה של דה-מרקר?

יש כמה בעיות

1) מאיפה מגיעים הנתונים – והאם הם מאפשרים לענות על השאלות שמעניינות אותנו?

הנתונים בטבלה מתבססים על דו״ח התחרותיות שפירסם השבוע הפורום הכלכלי העולמי. ניתן להוריד את הדו"ח מהקישור שכאן. ספציפית הנתונים שמופיעים בכתבה מדה-מרקר מתבססים על סקר של מנהלים מישראל אשר שאלו אותם לדרג מ- 1 עד 7 את ישראל לפי סידרה של שאלות. (הסקר מתואר החל מעמוד 85 בדו"ח, עמוד 101 ב PDF).

כלומר, הדירוג של ישראל מתבסס על מה מנהלים ישראלים חושבים על ישראל, לעומת מנהלים במדינות אחרות.

שימו לב שבדה-מרקר הציגו את דעותיהם של מנהלים לגבי השאלות הבאות:

  • הקצאת כספי ציבור
  • בזבזנות בוצאות הממשלה
  • אמון הציבור בפוליטיקאים
  • מידת הריכוזיות בשוק
  • העדפת מקורבים בהחלטות ממשלה
  • מידת התחרות בשוק המקומי

השאלה המתבקשת היא, מדוע שלמנהלים יהיה דרך סבירה להעריך את מיקומה של מדינת ישראל כחלק מהמדדים הללו? כיצד הם יכולים לדרג את ישראל במידת הריכוזיות של השוק? או במידת אמון הציבור בפוליטיקאים?!

2) דה-מרקר לא נותנים קישור למקור הנתונים – ולא מאפשרים לוודא את דיוק הדיווח

דה מרקר לא נותנים קישור ישיר למקור הנתונים שעל בסיסם הם פירסמו את מה שפירסמו. לדוגמא, כשחיפשתי את אחד מהמדדים שלהם "אמון הציבור בפוליטיקאים", אז גיליתי שבמסמך אליו קישרתי, הנתון שמופיע בכתבה שונה מזה שמופיע בדו"ח. בעמוד 409 (עמוד 425 ב PDF), ישראל מדורגת במקום 81 (ולא מקום 84).

האם זה אומר שכל הנתונים שדה-מרקר מציגים אינם נכונים? לא בהכרח. אבל זה מדגים את הקושי לגלות מה מקור הנתון שהם מציגים (והקושי לדעת האם הנתון שהם מביאים הוא נכון או שגוי).

3) מהו גודל המדגם?

בדבר אחד ישראל אחר נמצאת הכי נמוך בעולם (ביחד עם סווזילנד) – וזה במספר המנהלים שהסכימו להשתתף בסקר שעל בסיסו גיבשו את המסמך.

הסקר הועבר על 32 מנהלים. כלומר, כל השיחה הזאת, על איפה ישראל מדורגת בעולם, מתבסס על הדעות של בסך הכל 32 מנהלים (שלא ברור לנו מיהם, איך הם נבחרו להשתתף במדגם, איזה אוכלוסיה הם מייצגים, מה הכשירות שלהם להשיב על השאלות שנשאלו וכו').

הנה תרשים התפלגות מספר המשיבים על הסקר במדינות השונות (ראו כיצד ישראל מופיעה בתחתית, הוספתי חץ כדי להדגיש את מיקומה)

32IL

4) כיצד ישראל מוצגת וויזואלית

שימו לב שישראל תמיד מופיעה בסוף הרשימה. כלומר, לא משנה אם מיקומה של ישראל הוא 42 מתוך 144, או 133 מתוך 144, היא תמיד תופיעה בסוף הרשימה. היה עדיף להציג את ישראל על פני סקאלה קווית, כדי שנוכל בקלות לראות איפה היא באחוזים מ-0 עד 100%.

לזכותם של דה-מרקר, הטקסט עצמו שמופיע בכתבה מבהיר שיש לישראל במה להתגאות בנושאים כמו חדשנות. אבל הדבר הגרפי היחידי שמופיע הוא הצגה של מדדים מסויימים בלבד (ולא כולם, או תמונה מגוונות/מאוזנת).

5) אז איפה ישראל מדורגת בחלקים אחרים של המסמך?

לצערי, דה-מרקר לא מציגים הקשר רחב של תוצאות הסקר הזה, אלא רק מספר קטן של מדדים. ודווקא המדדים היותר בעיתיים שצצו מהסקר (ספציפית, הנושא של השכלה גבוהה, והשקעה בחינוך בישראל), בכלל לא צויינו.

הנה דוגמא לעוד כמה מדדים המתארים את ישראל מהדו"ח:

 

דוגמא לדירוג ישראל במדד Global Competitiveness Index

אז יש הרבה מדדים שמתוארים במסמך (מהקישור שכאן). לדוגמא, החל מעמוד 3 של המסמך (עמוד 19 ב PDF), מתוארת לנו שיטת מדידה בשם Global Competitiveness Index. פירוט הנתונים שהרכיבו את המדד הזה מפורטות בעמוד 11 (עמוד 27 ב- PDF). שימו לב לקטע שהדגשתי:

To measure these concepts, the GCI uses statistical data such as enrollment rates, government debt, budget deficit, and life expectancy. These data are obtained from internationally recognized agencies, notably the United Nations Educational, Scientific and Cultural Organization (UNESCO), the International Monetary Fund (IMF), and the World Health Organization (WHO). The descriptions and data sources of all these statistical variables are summarized in the Technical Notes and Sources at the end of this Report. Furthermore, the GCI uses data from the World Economic Forum’s annual Executive Opinion Survey (the Survey) to capture concepts that require a more qualitative assessment or for which internationally comparable statistical data are not available for the entire set of economies. The Survey process and the statistical treatment of data are described in detail in Chapter 1.3 of this Report.

מה שזה אומר הוא שמדובר בדו"ח שמנסה לעשות משימה קצת בלתי אפשרית. הוא מנסה לשפוט את מצב המדינות בעולם בהרבה סוגיות שקשה למדוד (ושגם כאלו שניתן למדוד, אין תמיד את המדידה העדכנית לאותה המדינה לשנה הנוכחית, אלא רק כמה שנים אחורה). עד כדי כך, שכדי להתמודד עם הקושי הזה – הם נדרשים להשתמש בסקר דעות המנהלים (שעליו נדבר בהמשך).

אז "איפה ישראל מדורגת?", בשביל לקבל קצת פרספקטיבה נציג את תוצאות ישראל במדד GCI.

בעמוד 14 של הדו"ח, בטבלה 4, ישראל מדורגת (במדד 'סה"כ') במקום 27 מתוך 144 (שזה בערך באחוזון ה- 80% של המדינות שבסקר – לא נשמע כל כך רע). אם היינו רוצים להציג את זה גרפית, יכולנו לצייר 10 מקפים ולהוסיף קו אופקי שיסמל איפה ישראל ממוקמת בין המקפים, בדירוג של מ- 1 עד 10 (רעיון של יוני סידי המופלא). אז במקרה של מדד הסך הכל, היינו מציירים  –|——–  (זה אומר שישראל בין ציון 8 ל- 9)

אם ניכנס לכל אחד מהמדדים שמתוארים בטבלה הזו, נבחין במיקומים הבאים (מספר גבוה יותר, ימינה יותר, זה "טוב יותר"):

דרישות בסיסיות —|——- 75
מעצים יעילות –|——– 81
חדשנות וגורמי תיחכום -|——— 93
מוסדות —|——- 70
תשתיות —|——- 76
סביבה מאקרואקונומית —-|—— 65
בריאות וחינוך בסיסי —-|—— 69
השכלה גבוה והכשרה —|——- 75
יעילות של שווקי מוצרים ——|—- 45
יעילות של שוק העבודה —–|—– 59
התפתחות שווקים פיננסיים –|——– 86
מוכנות טכנולוגית –|——– 89
גודל השוק —-|—— 66
תיחכום השוק –|——– 81
חדשנות -|——— 97

על פניו, כשמסתכלים על "גליון הציונים" שלנו, זה לא כזה נורא. אומנם אנחנו לא מתבלטים בתור "עם סגולה" שמופיע במקום ראשון בהכל, אבל זה גם בוודאי שלא "נכשל" גורף כשמתסכלים בסקאלה העולמית.

בעמוד 36, אף נותנים לנו סיכום מעניין של מצבה של ישראל (עם נקודות חוזק וחולשה ששווה לקרוא)

Israel retains the 27th position in this year’s GCI. The country’s main strengths remain its world-class capacity for innovation (3rd), which rests on innovative businesses that benefit from the presence of some of the world’s best research institutions (3rd), support by the government through public procurement policies (9th), and a favorable financial environment for start-ups (availability of venture capital is assessed at 9th place). Yet for the country’s innovation-driven competitiveness strategy to be successful and viable going into the future, Israel will have to address some basic competitiveness challenges. Israel’s institutions are in need of continued upgrading (43rd) and a stronger focus on raising the bar in education is needed. If not addressed, poor educational outcomes—particularly in math and science (79th) and in primary schools (86th)—could undermine the country’s innovative capacity over the longer term.
Room for improvement also remains with respect to the macroeconomic environment (50th), although improvements have taken place between 2012 and 2013 as the fiscal deficit and public debt were reduced. At the time of writing, the security situation in the country is once again fragile, which could potentially affect the country’s economy, although this has not been the case in the recent past.

בעמוד 236 ב PDF (עמוד 220 במסמך), יש סיכום של 2 עמודים על מדינת ישראל. הנה תרשים די ממצא של המימצאים (ישראל בכחול, ומדינה מפותחת "טיפוסית" באפור) – ככל שהקו של ישראל יותר קרוב למרכז העיגול ככה זה פחות טוב (לדוגמא, אפשר לראות שאנחנו פחות טובים במוסדות, תשתיות, השכלה גבוה ויעילות השוק – אבל הרבה יותר טובים בחדשנות):

IL_raadar

כאמור, לא מדהים, אבל גם לא רע בכלל.

לסיכום

מהדו"ח עולה שלישראל יש ייתרונות וחסרונות. הכתבה בדה-מרקר לא הציגה אותם באופן שמשקף את מה שכותבי הדו"ח הדגישו, וגם לא באופן שמאפשר לראות את הנקודות חוזק/חולשה השונות שתוארו בדו"ח.

אבל בכל מקרה, מדובר בדו"ח שהאמינות/ייצוגיות שלו לגבי מדינת ישראל היא בעיתית בלשון המעטה. להחליט על מיקומה של ישראל במדדים כל כך מורכבים כמו ריכוזיות הון, או שביעות רצון מפוליטיקאים, רק על סמך הדעות של 32 מנהלים מישראל (שלא ברור איך הם נבחרו) – נראית כמו הסקת מסקנות מאד דרמטית, שלא ברור עד כמה היא נכונה/משקפת את המציאות. להגנתם של כותבי הדו"ח יאמר שבאמת קשה לתת תשובה טובה לשאלות שהם שאלו – כי כנראה שאין הרבה נתונים "איכותיים" בשביל לענות על שאלות אלו.

אם עלי לתת המלצות לדה-מרקר (ולאחרים) הן יהיו שבכתבה מסוג זה הם יקפידו:

  1. לתת קישור למקור הנתונים!
  2. לציין את המיגבלות הדרמטיות של הנתונים (32 נשאלים בלבד, שלא ברור מה הם מייצגים)
  3. אם כבר מחליטים לסמוך על מסקנות הדו"ח – לציין את המסקנות המילוליות שכותביו מציעים, ולא רק בחירה נקודתית של מדדים מסויימים.
  4. ניסיון לתת הצגה מקיפה של המדדים שנמדדו (כנראה עם עדיפות על המדדים היותר אמינים, למרות שלזהות מי הן היו זה עבודה עיתונאית לא פשוטה בכלל)

 

קרדיטים: ברצוני להודות ליוני סידי ויהודה פורת על הפידבק שהם נתנו על הכתבה – מה שהוביל אותי לכתיבת פוסט זה.

5 תגובות בנושא “דה-מרקר "והטבלאות המפחידות שאנחנו 
לא רוצים להביט בהן"”

  1. ניתוח חשוב שעוסק בהרחבה של מה שסטטיסטיקה (יישומית) אמורה לעשות – לדאוג שמספרים ממקור זה או אחר הופכים לתובנות.

    כדי לתמוך בברור כזה נדרשת מתודולוגיה שבד"כ לא חוקרים ולא מלמדים.

    הצענו שמונה ממדים שמאפשרים זאת במסגרת INFOQ.

    למאמרים, מצגות ודוגמאות בנושא הזה אפשר לפנות ללינק: infoq.galitshmueli.com

    בקרוב יופיע גם ספר בנושא בהוצאת WILEY

  2. First off, way to go Tal. great post :).

    an overall comments on the methodology used in the survey.

    Using averages for discrete survey scales. it's nonsense. if they are asking subjective questions of ranking to a group of people then for example me being an overall pessimist I give for me a great score of 4 to a question and its really high on my personal scale but Tal's 4 means the middle for him. on average it looks like we are the same but the intention behind the answer was not. in short the mean means little in frequency analysis.
    this has a big impact on comparing different countries that have different cultural & business standards. There is an underlying assumption that each country interprets the scale the same. The comparison needs to be stochastic order and not mean. and if you look over time the rikuziut rank it is highly volatile while the score is monotonous.

    for full historical ranks and means for each country and question you can download this XL file: http://www3.weforum.org/docs/GCR2014-15/GCI_Dataset_2006-07-2014-15.xlsx. where some of the questions given to the good people at the hitachdut hataasianim are: "Reliability of Police Services" which obviously they are more than qualified to give their opinions on….

    lastly the cobweb plot is a really bad tool to display correlated data in. by construct you are implying that there is no correlation between the nodes because of the equal angles between the spokes (the cobweb in this case is a very messy one in terms of dependence between nodes. also there is always the question of standard error of the estimates and comparing them to a different group, ussually they are significantly different and showing one is a bit over or under another means nothing in reality.

    if we had the raw data (and the WEF does) the better thing to start off would be PCA and use the egienvectors and their respective components and display a biplot. and if you think it would be overkill for a report or survey like this then you would be suprised they used 2 paragraphs to explain mahalanobis….so biplot isn't that bad 🙂

השאר תגובה