סגירת ראיות
קביעה חייבת לשמור את התצפיות והטרנספורמציות הדרושות כדי לערער עליה.
החברה / למה KAIA
KAI–00בקרה אפיסטמית / פעילה
רוב מערכות הבינה המלאכותית מנבאות. KAIA חייבת לתת דין וחשבון על מה שהיא יודעת
החלטות בעלות השלכות כבדות נכשלות כשפלט הסתברותי נתפס כאמת מבצעית. KAIA מתייחסת לבינה כשרשרת מבוקרת של תצפיות, ישויות, קשרים, כללים, חלופות, סמכות והוכחה.
- קביעה
- נדרשות ראיות
- אי־ודאות
- גלויה, לא מוסתרת
- סמכות
- בפיקוד אנושי
KAI–00בקרה אפיסטמית / פעילה
שלמות האילוצים
החוק, המדיניות, כללי המשימה, גבולות הבטיחות ומגבלות המשאבים הם חלק מתהליך ההסקה.
רציפות מבצעית
החשיבה החיונית יכולה להמשיך לפעול באופן מקומי גם בתנאי ניתוק, שיבוש, קישוריות לסירוגין ורוחב פס נמוך.
אוטונומיה הניתנת לבדיקה
מהירות המכונה פועלת בגבולות של הרשאות, תנאים להעברה להכרעת אדם, הימנעות ממסקנה, ביטול הרשאה וביקורת.
מאנטרופיה לפעולה מבוקרת
ארבעה שלבים הופכים מציאות מקוטעת להחלטה שאפשר להגן עליה
הארכיטקטורה אינה מבטיחה ודאות. היא שומרת את הראיות, ההנחות, החלופות והסמכות הדרושות כדי לפעול באחריות בתנאי אי־ודאות.
בניית ראיות נאמנות למקור
נתונים הטרוגניים נכנסים למארג סמנטי משותף בלי לאבד בעלות, זמן, כללי טיפול, איכות או אי־ודאות.
גבול הבקרהנרמול אינו רשאי למחוק את שרשרת המקור
פענוח זהות, קשרים וכרונולוגיה
אונטולוגיות וגרפים זמניים חושפים הסכמה, סתירה, תלות ועמימות לפני שהמערכת מגבשת שיפוט.
גבול הבקרהזהות שלא פוענחה נשארת לא מפוענחת
בחינת עתידים אפשריים כתרחישים
תאומים דיגיטליים, מודלים סיבתיים ואופטימיזציה משווים התערבויות, אילוצים, השפעות מסדר שני ותנאי כשל.
גבול הבקרהתרחיש אינו מוצג כתחזית
קשירת החלופות לחוק, למדיניות ולסמכות
המלצות ופעולות שומרות את החובות הנוגעות לראיות, להרשאה, לאישור, להעברה להכרעת אדם, לביטול הרשאה ולבדיקה.
גבול הבקרהפלט ללא ביסוס מוביל להימנעות ממסקנה או להעברה להכרעת אדם
דוקטרינת התכנון
יכולת ראויה לאמון כשהגבולות שלה מפורשים
כל עיקרון נושא חובה של ארכיטקטורה, של בקרה ושל הערכה.
סגירת ראיות
קביעה חייבת לשמור את התצפיות והטרנספורמציות הדרושות כדי לערער עליה.
שלמות האילוצים
החוק, המדיניות, כללי המשימה, גבולות הבטיחות ומגבלות המשאבים הם חלק מתהליך ההסקה.
רציפות מבצעית
החשיבה החיונית יכולה להמשיך לפעול באופן מקומי גם בתנאי ניתוק, שיבוש, קישוריות לסירוגין ורוחב פס נמוך.
אוטונומיה הניתנת לבדיקה
מהירות המכונה פועלת בגבולות של הרשאות, תנאים להעברה להכרעת אדם, הימנעות ממסקנה, ביטול הרשאה וביקורת.
04 / 04 · ההחלטה הבאה
מתחילים בהחלטה שאינה יכולה להרשות לעצמה הסקה ללא ביסוס
מגדירים את גבול הראיות, מודל הסמכות, אילוצי ההפעלה ותנאי הכשל. KAIA ממפה את המערכת סביבם.