פרטיות, שליטה ופיקוח בעידן של נתוני עתק: חובת הנמקה על החלטות אלגוריתמיות

תקציר

<b>תקציר בעברית: </b>אנו חיים בעידן בו נתוני עתק מנבאים אותנו. כשירות הפרט לקבל הלוואה, מידת התאמתו למשרה מסוימת או למסלול לימודים או רמת האמינות שלו בעיני רשתות חברתיות נמדדים כיום על סמך ניבויים סטטיסטיים שהופקו משכלול וניתוח של נתוני מידע שונים שנאספו ממגוון עצום של מקורות. הואיל וניבויים אלו, שעל בסיסם גופים פרטיים מקבלים החלטות שונות ואף גורליות ביחס לפרט מושא המידע, עשויים לטעות או להפלות, נשאלת השאלה האם הם כפופים לפיקוח ובקרה הולמים? האם יש בידי מושא ההחלטה כלים מספקים לפקח ולהזים טעויות בניבוי? מאמר זה מציע להתמודד עם אתגר הפיקוח שנובע מקבלת החלטות על סמך ניבויים בנתוני עתק באמצעות אימוץ חובת הנמקה על גופים פרטיים שעולה בקנה אחד עם גישת הפרטיות כשליטה. חובת הנמקה, דוגמת זו שהוכרה לאחרונה במסגרת הרפורמה האירופית להגנת מידע בעידן של נתוני עתק, The General Data Protection Regulation, תייצר תמריץ שיחייב מקבלי החלטות פרטיים להוביל לשיפור הטכנולוגי הדרוש כדי להפוך ניבויים סטטיסטיים למובנים, וכפועל יוצא – להכפיפם לפיקוח ראוי. <br><b>English Abstract: </b>Privacy, Control and Oversight in an Era of Big Data Analytics:Adopting A right to Explanation under Israel's Privacy Protection Legislation. Big data analytics score and predict human behavior: who will pay her debts on time; which applicant will better meet the employer's business needs; who is likely to commit a crime. Many decisions that strongly implicate our lives increasingly rely on privately-developed predictions, including our housing, consumption, education and job opportunities. Are these algorithmic predictions subject to adequate oversight? This paper suggests that big data analytics suffer from insufficient checks. Data subjects do not understand the reasoning behind decisions that shape their lives because these decisions rely on complicated, dynamic and non-transparent analytics in their data. Consequently, they do not have the ability to contest erroneous or biased predictions about them. To enable better oversight, this paper explores the possibility of adopting a right to explanation under Israel's privacy protection legislation, using the framework of "privacy as control" and building on the model recently adopted in The General Data Protection Regulation.