在打造Jarvis時祖克柏碰到的第一個難題是家中設備的連結,一來家中系統多半使用不同的語言與協定,二來多數的家電尚未建置連網功能,若要讓更多人利用Jarvis來管理家中所有的裝置,除了需要有更多的連網裝置之外,產業亦必須打造一致的API與標準以利裝置間的互動。
祖克柏賦予Jarvis可同時理解自然語音及文字命令的能力,也教導它學習新的詞彙與概念,發現理解一件事的脈絡對任何AI來說都很重要,有更多脈絡的AI就愈能處理各種開放要求,例如他大部份的時候只會要求Jarvis放音樂(play me some music),但不會指定歌手或類型,Jarvis就會根據祖克柏過去的喜好選擇音樂,也可要求Jarvis換其他型態的音樂,讓Jarvis除了可立即調整之外,也可學習音樂的分類。Jarvis還能辨識發號施令的是祖克柏或是他的妻子Priscilla,以播放適合的音樂。
祖克柏說,他發現自己多半使用開放式要求而非指定要求,卻尚無商業產品支援此一應用,也許是個好機會。
為了辨識來客,祖克柏於家門口安裝了多個攝影機,以從各個角度來捕捉到訪者的人臉,當確認來客時,Jarvis便會檢查對方是否在到訪名單中,是否要自動開門,也會通知主人。視覺AI系統用途廣泛,例如它能判斷女兒Max是否已經醒了,也能辨識家中成員所處的房間藉以執行更開放式的命令。