KyberBot w robocie: asystent, który ma masę

Prosisz asystenta, żeby przed przyjściem gości ogarnął przedpokój. W telefonie źle zrozumiana prośba kosztuje niezręczną wiadomość albo pomyloną rezerwację. W robocie kosztuje wazon na podłodze, buty zepchnięte ze schodów albo maszynę wjeżdżającą z pełną prędkością do pokoju, w którym śpi dziecko. Prośba była ta sama. Cena pomyłki już nie.

Na tym polega cała różnica między asystentem a asystentem, który ma masę, i dlatego KyberBot w robocie to ten sam asystent, do którego dodano coś bardzo ważnego.

Prawdziwa przyczyna: pomyłki były tanie

Asystenci dorastali, popełniając błędy zrobione ze słów. Złą odpowiedź poprawia następna wiadomość. Wszystko w tym, jak się ich buduje, od sposobu planowania po sposób testowania, zakłada, że pomyłka oznacza ponowną próbę.

Masa łamie to założenie. Ruchu nie da się cofnąć. A im sprytniejszy planer, tym większa pokusa, żeby jego osąd był jedyną rzeczą między poleceniem a siłownikiem. I to jest błąd: część robota, która decyduje, co zrobić, nie powinna być tą, która decyduje, co wolno mu zrobić.

Jak to się psuje

Planer jako warstwa bezpieczeństwa. Jeśli jedynym, co zatrzymuje ruch, jest model uznający go za zły pomysł, to wystarczająco przekonujące polecenie albo wystarczająco pewna siebie pomyłka trafia prosto do silników.

Uprawnienia przepisane z ekranu. Asystentowi, któremu ufasz przy rezerwacji stolika, nie należy z rozpędu ufać przy otwieraniu drzwi, noszeniu gorącego garnka czy przejeździe przez pokój, w którym jest pies. Uprawnienia fizyczne potrzebują własnych reguł.

Mapa jest twierdzeniem. Dom zmienia się z godziny na godzinę: przesunięte krzesło, torba na podłodze, dziecko, które podchodzi do robota, żeby zobaczyć, co robi. O tej przepaści na hali pisaliśmy we wpisie Przepaść między symulacją a halą, a dom jest trudniejszy.

Sieć jako smycz. Gdy łącze znika, robot, który staje w miejscu, jest bezużyteczny, a ten, który jedzie dalej bez granic, jest groźny. Oba zachowania są częste. Drogę pomiędzy nimi opisuje wpis Kiedy znika sieć.

Brak pokwitowania. Coś się tłucze i nikt nie umie powiedzieć, w co robot wierzył, która reguła obowiązywała ani dlaczego uznał ruch za bezpieczny.

Co KyberBot wnosi do robota

KyberBot jest przed startem, tak jak wszystko, co tu opisujemy; to projekt, według którego go budujemy.

Ten sam asystent. Robot z KyberBotem odpowiada przed Twoją tożsamością i pracuje na Twojej pamięci, więc zna przedpokój, gości i dziecko śpiące na piętrze. O jednym asystencie we wszystkich ciałach piszemy we wpisie Jeden asystent, wiele ciał.

Uprząż pod planerem. Obwiednia (dokąd maszyna może jechać, jak szybko, z jaką siłą, jakie zadania w których pokojach i o jakich porach) jest zadeklarowana jako dane i egzekwowana pod planerem. Plan, który ją narusza, nigdy nie staje się ruchem, choćby był najlepiej uzasadniony. Szczegóły są we wpisie Czym naprawdę jest uprząż.

Homeostat. Punkty nastawy dla prędkości, siły, odległości i pewności robota co do tego, gdzie jest. Gdy jego zgodność ze światem spada, zwalnia, zatrzymuje się albo oddaje sterowanie, nie czekając, aż ktoś poprosi.

Ruch na liście „najpierw zapytaj”. Wszystko, co wykracza poza stałą obwiednię, którą zatwierdzasz, czeka na Twoje „tak”, tak samo jak płatność czy wiadomość w Twoim imieniu. „Przesuń kanapę” jest pytaniem, zanim stanie się ruchem.

Pokwitowanie każdego ruchu. O co poproszono, w co robot wierzył, jaka obwiednia obowiązywała i co postanowił, zapisane w chwili decyzji. Dlaczego to ważne, wyjaśnia wpis Każdy ruch potrzebuje pokwitowania; KyberAgent stosuje tę samą zasadę do oprogramowania we wpisie Każdy krok zapisany.

Nad certyfikowanym bezpieczeństwem, nigdy zamiast niego. Wyłączniki awaryjne, sterowniki o certyfikowanym poziomie bezpieczeństwa i normy, które za nimi stoją, zostają sprzętowe. KyberBot działa nad nimi i stara się, żeby musiały interweniować jak najrzadziej.

Samo ciało pochodzi z rodziny KyberDeck: moduł KyberDeck Core wsuwa się do wnęki obliczeniowej robota i dlatego mówimy, że robot to deck na kołach.

Test, który możesz zrobić dziś

Weź dowolnego robota, którego masz albo chcesz kupić: odkurzacz, kosiarkę, zabawkę, maszynę magazynową. Znajdź w dokumentacji albo u producenta odpowiedzi na cztery pytania.

1. Czego nie zrobi, nawet jeśli mu każesz? Nie „jest wystarczająco mądry”, tylko lista ograniczeń.
2. Gdzie te ograniczenia są zapisane i czy możesz je przeczytać?
3. Co robi, gdy znika sieć?
4. Czy dostaniesz zapis tego, dlaczego pojechał tam, gdzie pojechał?

Jeśli odpowiedzi mówią o tym, jak mądry jest robot, a nie o tym, czego nie może spróbować, ma planer, ale nie ma uprzęży. Nie chodzi o to, żeby robot był głupszy. Chodzi o to, żeby jego spryt działał w granicach, które da się przeczytać, sprawdzić i zmienić tylko świadomie. Tę lukę ma zamknąć KyberBot: asystent, który Cię zna, w ciele, któremu nie wolno zgadywać.