הטכנולוגיה כל הזמן מתקדמת ושוברת שיאים חדשים. אנו רואים זאת בתחומים רבים בחיינו וספק רב אם אין תחום שאינו מושפע מההמצאות החדישות בעולם הטכנולוגיה. כך חיינו הופכים ליותר ויותר תלויים במערכות טכנולוגיות וסביר שמגמה זו רק תלך ותתחזק. כיום אנחנו לא יכולים לדמיין את חיינו ללא הסמארטפון ויכול להיות מאוד שבעתיד לא נוכל לדמיין את חיינו גם ללא רובוטים ומערכות אחרות. אחד התחומים המתקדמים בצעדי ענק הוא התחום של מערכות לומדות. תחום זה כובש עוד ועוד שיאים והופך ליותר מורכב ויותר חכם. כבר כיום ישנן מערכות אשר תכנתו את עצמן ואשר יצרו שינויים מרחיקי לכת בהבנה שלנו את עולם המערכות הלומדות. לא רק זאת אלא שישנן מערכות אשר חוזות את העתיד ומצביעות כיצד מדינות וארגונים ינהגו לאור המצב הגיאופוליטי. אין גבול לעולם המערכות הלומדות ונראה כי מדובר בעולם מרתק וייחודי.
מערכות לומדות – מדוע יש להיזהר מבינה מלאכותית?
אך עלינו לזכור כי מערכות לומדות טומנות בחובן גם סיכונים לא קטנים היכולים לאיים על שלום העולם ועל חייהם של בני אדם. יזמים מובילים כמו איילון מאסק מתריעים על כך כי תחום הבינה המלאכותית הוא תחום אפל שמאיים על שלום האנושות. הפחד הוא שהמחשבים והצ'יפים השונים יהיו כל כך חכמים עד אשר הם ישתלטו על העולם ויהפכו את בני האדם לעבדים. החשש הוא שברגע שמחשב ילמד לחשוב באופן עצמאי לא יהיה גבול ליכולות שלו והוא יוכל להגיע לתובנות מרחיקות לכת. זה לא רק תסריט שראינו בסרטים כמו שליחות קטלנית או מטריקס ואנו חייבים להתייחס עליו בכובד ראש אם אנחנו לא רואים להגיע למצב כמו שיש בסרטים.
מערכות לומדות – כיצד נבטיח כי שליחות קטלנית לא תתקיים?
אף אחד לא אומר שאנחנו צריכים להפסיק לפתח מערכות לומדות ולעצור את התקדמות הטכנולוגיה, אך אנחנו צריכים לעשות את הפיתוחים בחכמה ולהקשיב למומחים המתריעים מפני פיתח ללא מחשבה על העתיד. כל צוות פיתוח של בינה מלאכותית חייב לשים לב מאוד למה שהוא מפתח ולא לחרוג מן הכללים השומרים על ביטחונם של כלל האנושות.
