CSBE-SCGAB

The importance of real-time visual information for the remote supervision of an autonomous agricultural machine

Authors: Ivan Panfilov, I. and Danny D. Mann
Description: “Supervised autonomy” is a term that best describes the autonomous agricultural machines currently being envisioned. Such machines will be able to work autonomously, but require human supervision. The topic of interface design, however, has not received sufficient attention by designers. The goal of this study was to investigate the importance of live video for remote supervision of autonomous agricultural machines. The study was conducted using an autonomous agricultural machine control interface simulator, which provided information of machine status using graphical indicators (which interpreted and displayed sensor information) and live video (which was presented as seen by the camera). The participants of the study performed the role of the supervisor of an autonomous agricultural machine. The importance of live video was assessed by comparing the participant’s performance during trials with and without video. Information about the gaze direction was obtained with an eye-tracking system. The results showed that graphical indicators are the preferred source of machine status information, and live video is a secondary source. At the beginning of the experiment, participants split their attention evenly between the graphical indicators and the live video, but by the end of the experiment, their focus was on the graphical indicators 70% of the time. More than 75% of the participants indicated that the live video helped them to understand machine functions better and they felt more secure when the video footage was present. The participants suggested that live video should be available either full time or on demand. Control interface designers should consider including live video on the interface for autonomous agricultural machines to provide additional decision-making support to the supervisor.
Keywords: Autonomous agricultural machines, visual information, automation interface, remote supervision.
Résumé: L’« autonomie supervisée » est le terme qui décrit le mieux les machines agricoles autonomes qui sont présentement envisagées. De telles machines seront en mesure de fonctionner de façon autonome, mais elles nécessiteront une supervision humaine. Toutefois les designers n’ont pas accordé suffisamment d’attention aux questions liées à la conception des interfaces de contrôle. Le but de cette étude était d’investiguer l’importance d’un lien vidéo direct pour la supervision à distance de machines agricoles autonomes. L’étude a été réalisée à l’aide d’un simulateur d’interface de contrôle pour machine agricole autonome qui, par ses indicateurs graphiques, fournissait des renseignements sur l’état de la machine (en présentant et interprétant l’information recueillie par des senseurs) ainsi qu’une vidéo en direct (montrant les images telles que recueillies par une caméra). Les participants à l’étude ont joué le rôle de superviseur d’une machine agricole autonome. L’importance de la vidéo en direct a été déterminée en comparant les performances des participants durant les essais avec ou sans la vidéo. L’information sur la direction du regard des participants a été recueillie par un système de suivi oculaire. Les résultats ont démontré que les indicateurs graphiques constituaient la source préférée d’information sur l’état de la machine, tandis que la vidéo en direct venait au second rang. Au début des essais, les participants répartissaient également leur attention entre les indicateurs graphiques et le signal vidéo. Toutefois, vers la fin des essais, l’attention des participants était centrée sur les indicateurs graphiques durant 70 % du temps. Plus de 75 % des participants ont indiqué que la vidéo en direct les avait aidés à mieux comprendre le fonctionnement de la machine et qu’ils se sentaient plus à l’aise lorsqu’ils pouvaient voir la vidéo en direct. Les participants ont ainsi suggéré que la vidéo en direct devrait être disponible en tout temps ou sur demande. Les designers d’interfaces de contrôle pour l’opération de machine agricole autonome devraient inclure la vidéo en direct pour donner au superviseur un soutien additionnel à la prise de décisions.
Mots-clés: Machines agricoles autonomes, information visuelle, interface d’automation, supervision à distance.
Technical field: Machinery Systems Engineering
Citation: Panfilov, I. and D.D. Mann. 2018. The importance of real-time visual information for the remote supervision of an autonomous agricultural machine. Canadian Biosystems Engineering/Le génie des biosystèmes au Canada 60: 2.11-2.18. https://doi.org/10.7451/CBE.2018.60.2.11
Volume: 60
Issue: 1
Start page number: 2.11
End page number: 2.18
Publisher: Canadian Society for Bioengineering / Société Canadienne de Génie Agroalimentaire et de Bioingénierie
Contributor: R. Sri Ranjan
Date: May 16, 2018
Publication type:
  • Journal
Type: Text.Article
Format: PDF
Identifier: C18372
Language 1: en
Language 2: fr
Rights: Canadian Society for Bioengineering / Société Canadienne de Génie Agroalimentaire et de Bioingénierie
Located in: Volume 60 (2018)