Virtuelle RealitätVirtual Reality

Interaktion in Mixed Reality Interaction in Mixed Reality

Dr. Thies Pfeiffer

Cognitive Interaction Technology Center of Excellence,
Technische Fakultät, Universität Bielefeld
Cognitive Interaction Technology Center of Excellence,
Faculty of Technology, Bielefeld University

Termin:Montags, 14:15 Uhr

Raum: CITEC Auditorium

Schedule:Mondays, 2:15 p.m.

Room: CITEC Auditorium

ÜberblickOverview

Inhalte dieser VeranstaltungContent of this lecture

  • Die drei BasisinteraktionenThe three Basic Interactions
  • Interaktionsfähigkeit bewertenEvaluating interaction capabilities
  • InteraktionsgeräteInteraction Devices
  • SelektionSelection
  • NavigationNavigation
  • ManipulationManipulation

Die drei Basisinteraktionen in der Virtuellen RealitätThe three Basic Interactions in Virtual Reality

  • Interaktionen mit dem Technik-Interface der VR InstallationenInteractions with the administrative interface of a virtual reality installation
    • ... sind nicht im Fokus unserer Betrachtungare not in our focus
  • Wir beschäftigen uns mit Interaktionen mit der dreidimensionalen Simulation (Welt)We are targeting at interactions in a three-dimensional simulation (virtual world)

Anforderungen an Interaktionen in der Virtuellen RealitätRequirements for interactions in virtual reality

  • Räumlichkeit (z.B. 3D) soll voll unterstützt werdenSpatiality (e.g. 3D) should be fully supported
  • Immersion soll bewahrt oder gar gefördert werdenImmersion should be maintained or even improved
    • Auf jeden Fall aber nicht zerstört!In no case should the interaction destroy immersion!
  • Bedienung soll intuitivseinUsage should be intuitive, in particular if real-world actions are simulated
  • Interaktion soll funktional seinInteraction should be functional
  • Am besten soll die Interaktionstechnik dabei nicht erkannt werden bzw. im Vordergrund stehen! The interaction technology (typically) should not put itself too much into focus. The more it stays in the background, the better.

Definition: Freiheitsgrad (DoF, degree of freedom)Definition: Degree of Freedom (DoF)

Ganz grundlegend lassen sich Anforderungen über die notwendigen Eingabedimensionen definieren. Dies führt uns zum Konzept des Freiheitsgrads. A fundamental requirement are the required input dimensions. This leads to the concept of degree of freedom (DoF).

  • Freiheitsgrad: variabler Parameter eines Systems (z.B. eines Eingabegerätes) Degree of Freedom: variable parameter of a system (e.g. of an input device)
    • Menge der Freiheitsgrade beschreibt das System eindeutig Set of degrees of freedom describes the system
    • echte Freiheitsgrade sind unabhängig voneinander real degrees of freedom are independent from each other
    • Menge der echten Freiheitsgrade minimal The set of real degrees of freedom is minimal
      • mit weniger kann das System nicht beschrieben werden the particular system cannot be fully described with less degrees of freedom
  • kann technisch als Dimension verstanden werdentechnically it can be thought of as a dimension

BeispieleExamples

  • Massepunkt besitzt drei translatorische Freiheitsgrade Center of mass has three translatory degrees of freedom (X/Y/Z)
  • Körper besitzt zusätzlich drei rotatorische Freiheitsgrade Body has in addition to that three rotatory degrees of freedom (R/P/Y)
  • Man liest oft: Datenhandschuhe haben 18 bis 22 Freiheitsgrade Often you read, for example, that data gloves have 18 to 22 degrees of freedom
    • Datenhandschuhe messen 18 bis 22 GelenkstellungenData gloves measure 18 to 22 joint orientations
    • aber: nicht alle Gelenkstellungen unabhängigbut not all joint orientations are indendent from each other
    • daher: weniger tatsächliche Freiheitsgradea data glove attached to a hand provides thus less degrees of freedom

1. Basisinteraktion: Selektion1st Basic Interaction: Selection

  • Ziel: Objekt als Ziel der Interaktion dem System bekannt machenGoal: Object should be made known to the system as target of the interaction
  • Alternative Bezeichnung: Auswahl, PickingAlternative names: Picking
  • FragenQuestions
    • Wie wird gezielt? (Aiming)How is aiming realized?
    • Wie wird Selektion ausgelöst? (Trigger)How is the selection triggered?
    • Wie erfährt der Nutzer über den Status der beiden Prozesse? (Feedback)How does the user know about the state of the processes? (feedback)

2. Basisinteraktion: Navigation2nd Basic Interaction: Navigation

  • Ziel: Position (und damit Perspektive) in der virtuellen Welt ändernGoal: alter the position (and thus perspective) in the virtual world
  • Alternative Bezeichnungen: Travelling, Orientierung und FortbewegungAlternative names: Travelling, Orientation, Movement
  • FragenQuestions
    • Erfolgt Navigation physisch oder rein virtuell?Is navigation done physically or pure virtually?
      • Bewegt sich der Körper mit, oder nicht?Does the body also move, or not?
    • Wie wird eine Navigation ausgelöst?How is the navigation triggered?
    • Wie wird die Interaktion auf die Bewegung in der virtuellen Welt abgebildet?How is the interaction mapped to a movement in the virtual world?

3. Basisinteraktion: Manipulation3rd Basic Interaction: Manipulation

  • Ziele:Goals:
    • Auslösen von Aktionen/Reaktionen in der WeltTriggering actions/reactions in the world
    • Greifen von ObjektenGrasping of objects
    • Verschieben/Drehen von ObjektenTranslating/rotating objects
    • Kombinieren von ObjektenCombining objects
  • FragenQuestions
    • Wie wird die Manipulation ausgewählt?How is the particular manipulation selected?
    • Welche Modifikationen an der virtuellen Realität sollen vorgenommen werden können? (Rotation, Translation, komplexe Änderungen, ...)What modifications should be applied (rotation, translation, more complex changes,...)
    • Wie werden die Freiheitsgrade der Interaktion auf die Modifikationen abgebildet?How are the degrees of freedom of the interaction/interaction device mapped to the degrees of freedom of the manipulation

Wie viele Freiheitsgrade werden für die Basisinteraktionen benötigt? How many degrees of freedom are required to support the basic interactions?

  • Wie viele Freiheitsgrade (DoF) hat die Selektion? How much DoF has the selection?
  • Wie viele Freiheitsgrade (DoF) hat die Navigation? How much DoF has the navigation?
  • Wie viele Freiheitsgrade (DoF) hat die Manipulation? How much DoF has the manipulation?

ZwischenfazitInterims Summary

  • Interaktionstypen und -geräte können über ihre Freiheitsgrade klassifiziert werdenInteractiontypes and -devices can be classified according to their required or supported degrees of freedom
  • Es gibt drei typische InteraktionstypenThere are three basic interaction types
    • SelektionSelection
    • Navigation
    • Manipulation

Interaktionsfähigkeit bewertenEvaluating Interaction

Warum Evaluieren?Why evaluating interactions?

  • Anforderungen der Benutzer aus der Interaktion heraus identifizierenIdentify requirements of the user during the interaction
  • Benutzungsprobleme identifizierenIdentify usage problems
  • Probleme quantifizieren ($\to$ gezielte Anpassung)Quantify problems ($\to$ to allow for a directed optimization)

Meta-ZieleMeta Goals

  • Design Richtlinien entwerfenDevise a design guide
  • Performanz-Modelle entwickeln um Voraussagen über Leistung/Nutzen treffen zu könnenDevelop performance models to allow for predictions about usage

Methoden zur Konkretisierung der Nutzerinteraktionen Methods for the specification of the user interaction

  • Aufgabenanalyse (User Task Analysis)User Task Analysis
  • Szenarien (Komposition von Aufgaben)Scenarios (composition of tasks)
  • Personas (Nutzer mit best. Anforderungen und Hintergrund)Personas to describe users with certain requirements, backgrounds, usage scenarios
  • PrototypenPrototypes

EvaluationsansätzeApproaches to Evaluation

Von theoretisch/abstrakt zu angewandt/konkret From more abstractm theoretical approaches to the more specific, practical

  • Cognitive Walkthrough
  • Expertenreview (Heuristic Evaluation)Expert Review (Heuristic Evaluation)
  • FragebögenQuestionnaires
  • Interviews
  • BenutzertestsUser Studies (Formative Evaluation)
  • Vergleichsstudien (Vorher/Nachher, A-B Test)Comparison Studies, A-B Tests

Messen/Bewerten der InteraktionMeasuring/Quantifying Interaction

  • Eigenschaften des Systems (Wiederholrate, Latenz, techn. Schwierigkeiten, Last, Wärmeentwicklung, Geräuschentwicklung, ...)Properties of the system (refresh rate, latency, technical problems, load, heat development, noise level, ...)
  • Aufgabenbezogene Eigenschaften (Bearbeitungszeit, Durchführbarkeit, Fehlerrate, Genauigkeit, ...)Task-related properties (time-on-task, feasibility, error rate, precision, ...)
  • User Experience (Einfachheit der Bedienung, Transparenz der Schnittstelle, Affordanz, Erlernbarkeit, Zufriedenheit, Präsenz, Simulationskrankheit, ...) User Experience (ease of use, transparency of the interface, affordance, learnability, satisfaction, presence, simulator sickness, ...)

Spezielle HerausforderungenSpecific Challenges

  • Interaktion in nicht-natürlicher Umgebung kann zu extremen Reaktionen führen, da unter Umständen wenig vertraut. $\to$ Es besteht daher eine besondere Sorgfaltspflicht gegenüber den Testpersonen! Interaction in non-natural environments may lead to extreme reactions, as users might not be accustomed to them. $\to$ The operator of such a simulation has an obligation to care for the test persons!
  • Inhalte können auf Grund der Perspektive unter Umständen nicht von Testperson und Untersuchungsleiter gleichzeitig wahrgenommen werden (insbesondere bei der Verwendung von HMDs)Content may not be perceived at the same time or in a similar way by both test person and experimenter, e.g. due to the perspective projection (in particular when HMDs are used).
  • Komplexe Interaktionen generell schwer zu beurteilen, da viele Pfade zum Ziel existieren Complex interactions are difficult to evaluate, as often many ways can lead to the same goal.
  • Vermittlung von Präsenz steht im Gegensatz zum Untersuchungscharakter (beobachtet fühlen, Interventionen) The goal of creating a feeling of presence might interfere with the presence of the experimentor (feeling of being observed)
  • Forschungs-Hardware wird eingesetzt und keine Konsumer-Hardware, d.h. die Geräte sind noch nicht sehr robust Often research-hardware is used instead of consumer-hardware, and thus devices might not be too robust
  • Andersartigkeit der Virtuellen Realität kann Effekt des Gesamtkonzepts überschatten, Staunen über die Möglichkeiten $\to$ Die Nutzer sollten Zeit haben, sich an die Simulation zu gewöhnen. The otherness of the virtual world may overshadow particular effects, e.g. astonishment. $\to$ allow participants to get used to the simulation!

EingabegeräteInput Devices

Merkmale von GerätenProperties of input devices

  • verfolgt oder nicht-verfolgt ("getrackt")tracked or non-tracked
    • d.h. solche mit eigener Position/Orientierung im Raum und solche ohne i.e. devices that have a monitored position and orientation in space and such without
    • man spricht auch von Tracking-Technologie such devices are called tracking devices
  • einhändig, beidhändig oder anderweitig bedienbar handedness: single-handed, dual-handed or otherwise operated
  • Anzahl der unterstützen Freiheitsgrade number of supported degrees of freedom
  • Eignung für Einsatzgebiete, z.B. Desktop, HMD oder CAVE applicability to specific fields of application, e.g. desktop, HMD, CAVE

Die MausThe Mouse

  • EigenschaftenProperties
    • nicht-verfolgtes Gerät (in der Regel) non-tracked devices (the standard mouse)
    • einhändig bedienbar single-handed
    • 2 Freiheitsgrade 2 degrees of freedom
    • 2+ Aktionsknöpfe 2+ action buttons
    • 0+ Regler (Mausrad $\to$ evtl. weiterer Freiheitsgrad) 0+ controller, such as a mouse wheel $\to$ additional degrees of freedom
    • Eignung: Desktop applicability: desktop
  • BeurteilungEvaluation
    • sehr vertraut high familiarity
    • eingeschränkt auf Desktop (Oberfläche) restricted to desktop (or at least to surfaces)
    • geringe Menge an Freiheitsgraden low degrees of freedom
Mouse
Mouse

Der JoystickThe Joystick

  • EigenschaftenProperties
    • nicht-verfolgtes Gerät (in der Regel) non-tracked device
    • einhändig oder beidhändig bedienbar single- or dual-handed
    • 2+ Freiheitsgrade degrees of freedom
    • 1+ Aktionsknöpfe action buttons
    • 0+ Achsen-Kontroller ($\to$ mehr Freiheitsgrade) axis controller $\to$ more degrees of freedom
    • Eignung: Desktop applicability: desktop
  • Beurteilung Evaluation
    • sehr vertraut high familiarity
    • eingeschränkt auf Desktop restricted to desktop
    • kontinuierliche Bewegung möglich supports continuous movements
    • schlechter Isomorphismus weak isomorphism
Joystick
Joystick

DieThe Space Mouse

  • EigenschaftenProperties
    • nicht-verfolgtes Gerät non-tracked device
    • einhändig bedienbar single-handed
    • 6 Freiheitsgrade 6 degrees of freedom
    • 0+ Aktionsknöpfe action buttons
    • Eignung: Desktop applicability: desktop
  • Beurteilung Evaluation
    • viele Freiheitsgrade many degrees of freedom
    • schlechter Isomorphismus weak isomorphism
    • steile Lernkurve steep training curve
    • eingeschränkt auf Desktop restricted to desktop
    • kontinuierliche Bewegung möglich allows for continuous movements
Space Navigator
SpaceNavigator

DerThe Stylus

  • EigenschaftenProperties
    • verfolgtes Gerät tracked device
    • einhändig bedienbar single-hand
    • 6 Freiheitsgrade degrees of freedom
    • 1+ Aktionsknöpfe action buttons
    • Eignung applicability: HMD, CAVE
  • BeurteilungEvaluation
    • gut für das Zeigen/Zeichnen well suited for precise pointing or drawing
    • mobiler Einsatz mobile use
    • ein Knopf reicht oft nicht aus single action button often not enough
Stylus
Stylus

Der 3D-BallThe 3D-Ball

  • Beispiel eines experimentellen Gerätes Example of an experimental device
  • Eigenschaften Properties
    • verfolgtes Gerät tracked device
    • einhändig bedienbar single-handed
    • 6 Freiheitsgrade degrees of freedom
    • 1 Aktionsknöpfe action buttons
    • Eignung applicability: HMD, CAVE
  • BeurteilungEvaluation
    • gut für Rotationen (Kabel leicht störend) good for manipulating orientation (wire might hamper)
    • mobiler Einsatz mobile use
    • ein Knopf reicht oft nicht aus single action button often not enough
3D Ball
3D Ball

Das The Fakespace Wanda

  • Spezialgerät für die VRSpecial device for virtual reality
  • EigenschaftenProperties
    • verfolgtes Gerät tracked device
    • einhändig bedienbar single-handed
    • 6 Freiheitsgrade (tracking) + 2 Freiheitsgrade über Joystick 6 degrees of freedom (tracking) + 2 degrees of freedom (joystick)
    • 3 Aktionsknöpfe action buttons
    • Eignung applicability: HMD, CAVE
  • BeurteilungEvaluation
    • 3D Mausersatzmouse surrogate
    • mobiler Einsatzmobile use
Fakespace Wanda
Fakespace Wanda

DieThe WiiMod (aka Wii-Remote)

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • einhändig bedienbarsingle-handed
    • 6 Freiheitsgradedegrees of freedom (tracking)
    • 2 Freiheitsgrade über Steuerkreuzdegrees of freedom using directional pad
    • 2 FG Beschleunigungssensordegrees of freedom using accelerometer
    • 8 Aktionsknöpfeaction buttons
    • Rumble undand Audio Feedback
    • Eignungapplicability: HMD, CAVE
  • BeurteilungEvaluation
    • 3D Mausersatzmouse surrogate
    • mobiler Einsatzmobile use
    • vielfältige Eingabemöglichkeitenmultiple degrees of freedom
    • leichte Überforderungcould be overcharging to use
WiiMod
WiiMod

DieThe HTC Vive Controller

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • beidhändig bedienbardual-handed
    • 6 Freiheitsgradedegrees of freedom (tracking)
    • 2 Freiheitsgrade über Touchpaddegrees of freedom using touch pad
    • 5 Aktionsknöpfeaction buttons
    • rumble feedback
    • Eignungapplicability: HMD
  • BeurteilungEvaluation
    • mobiler Einsatzmobile use
    • vielfältige Eingabemöglichkeitenmultiple degrees of freedom
    • gut erlernbares Designgood learnability
Vive Controller
Vive Controller

DieThe Oculus Touch Controller

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • beidhändig bedienbardual-handed
    • 6 Freiheitsgradedegrees of freedom (tracking)
    • 2 Freiheitsgrade über Joysticksdegrees of freedom using joysticks
    • 4 Aktionsknöpfeaction buttons
    • rumble feedback
    • Eignungapplicability: HMD
  • BeurteilungEvaluation
    • mobiler Einsatzmobile use
    • vielfältige Eingabemöglichkeitenmultiple degrees of freedom
    • kleiner Aktionsraumsmall tracking space
Oculus Touch Controller
Oculus Touch Controller

Razer Hydra

Dieses Gerät nutzt ein elektromagnetisches Feld, welches die Basis-Station aufspannt. Die Controller führen Spulen in denen dann Induktionsströme gemessen werden können, aus denen auf die Position und Orientierung (Anordnung der Spulen) geschlossen werden kann. This device casts an electromagnetic field around the base. The controllers bear coils in which flux can be measured to derive position and orientation (based on the alignment of the coils).

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • beidhändig bedienbardual-handed
    • 6 Freiheitsgradedegrees of freedom
    • 4+ Aktionsknöpfeaction buttons
    • Eignungapplicability: Desktop/HMD
  • BeurteilungEvaluation
    • viele Freiheitsgrademany degrees of freedom
    • beschränkter Interaktionsraum wg. Kabeln/Feldgrößerestricted interaction space because of cables and field
    • kontinuierliche Bewegung möglichcontinuous movement possible
Razor Hydra
Razor Hydra

Die DatenhandschuheThe Data Gloves

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • einhändig oder beidhändig bedienbarsingle- or dual-handed
    • 6 Freiheitsgrade degrees of freedom (tracking)
    • x Freiheitsgrade Gelenkwinkel (z.B: 18 oder 22)x degrees of freedom for joints (e.g. 18 or 22)
    • Eignungapplicability: HMD, CAVE
  • BeurteilungEvaluation
    • Natürliche Interaktionnatural interaction
    • viele Freiheitsgrademany degrees of freedom
    • fehlende Aktionsknöpfe erfordern aufwändigeres Interaktionskonzept (sonst z.B. Midas-Touch Problem) missing action buttons require a more complex interaction concept (cf Midas Touch)
CyberGloves
CyberGloves

Taktile DatenhandschuheTactile Data Gloves

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • einhändig oder beidhändig bedienbarsingle- or dual-handed
    • 6 Freiheitsgradedegrees of freedom (tracking)
    • x Freiheitsgrade der Gelenkwinkel für 3 oder 5 Fingerdegrees of freedom of joints for 3 or 5 fingers
    • absolute Positionen der Fingerspitzenabsolute positions of the finger tips
    • Eignungapplicability: HMD, CAVE
  • BeurteilungEvaluation
    • Natürliche Interaktionnatural interaction
    • viele Freiheitsgrademany degrees of freedom
    • durch taktiles Feedback weniger visuelle Kontrolletactile feedback reduces the need for visual control
    • fehlende Aktionsknöpfe erfordern aufwändigeres Interaktionskonzept (sonst z.B. Midas-Touch Problem) missing action buttons require a more complex interaction concept (c.f. Midas Touch)
ART Fingertracking mit taktilem Feedback
AR-Tracking GmbH: Fingertracking mit taktilem Feedbackfinger tracking with tactile feedback

BlickbewegungsmessungEye Tracking

  • EigenschaftenProperties
    • verfolgtes Gerättracked device
    • einäugig oder beidäugig bedienbarsingle- or dual-eyed
    • 6 Freiheitsgradedegrees of freedom (tracking)
    • 2x2 Freiheitsgrade Blickposition auf 2D Ebenedegrees of freedom of gaze position on 2D plane
    • keine Aktionsknöpfeno action buttons
    • Eignungapplicability: HMD, CAVE
  • BeurteilungEvaluation
    • Natürliche Interaktionnatural interaction
    • viele Freiheitsgrademany degrees of freedom
    • fehlende Aktionsknöpfe erfordern aufwändigeres Interaktionskonzept (sonst z.B. Midas-Touch Problem) missing action buttons require a more complex interaction concept e.g. to circumvent the Midas Touch problem
Eyetracker von Arrington Research
Eyetracker von Arrington Research, erweitert um optisches Tracking der AR-Tracking GmbH, inkl. polarisierten Filtern für die stereoskopische 3D Projektion Eye-tracking system from Arrington Research, extended by an optical tracking system by AR-Tracking GmbH, inkl. polarized filters for stereo projection

SelektionSelection

SelektionSelection

  • Auch bekannt als Picking oder Zielauswahl (target acquisition) Also known as picking or target acquisition
  • Auswahl eines Objektes in der Virtuellen Realität Selecting of an object in virtual reality
  • Ziel abhängig vom KontextGoal depends on interaction context
    • Bekanntmachen einer Objektinstanz als Reaktion auf eine Anfrage vom System Making an object instance known to the system as a response to a system request
    • Anstoßen von internen Prozessen, die dann z.B. zu Reaktionen wie der Anzeige von zusätzlichen Informationen oder funktionalen Änderungen der Welt führen (Schalter, etc) Triggering internal processes, which may then lead to reactions, such as the display of additional information or functional changes in the world (buttons, etc. $\to$ Manipulation)
    • Interaktionsfokus setzen für weiterführende Manipulationsprozesse Setting the interaction focus for subsequent manipulations

Selektion: TeilaufgabenSelection: Subtasks

  • Indikation des ObjektesIndication of an object
    • Voraktivierung des gewünschten Objektes für die Selektion durch geeignete Interaktion Preactivation of the desired object for the selection by means of a suitable interaction
  • Bestätigung der SelektionTriggering the selection
    • In der Regel: Nutzer löst Selektion über dedizierte Aktion (z.B. Klick) aus. Alternative: kontinuierliche Indikation (Dwelling) bis ein Schwellwert erreicht ist Most commonly the user triggers the selection by means of a dedicated action (e.g. click). Alternatively: continuous indication (dwelling) until a threshold is reached
  • Rückmeldung des SystemsFeedback of the system
    • Rückmeldung während der Indikation: Feedback welches Objekt selektiert werden würde, wenn der Benutzer in diesem Moment bestätigt Feedback during the indication: feedback which object has been indicated and would be selected if the user would trigger the selection
    • !!Wichtig!! Rückmeldung nach der Bestätigung: Dies kann auch durch eine ausgelöste Aktion (z.B. bei Schaltern) geschehen und muss nicht immer ein gesondertes Selektionsfeedback sein. Falls eine Aktion nicht direkt nach dem Auslösen wahrnehmbar startet, kann ein zusätzliches direktes Feedback-Signal hilfreich sein. !!Important!! Feedback after triggering the selection: this can also be achieved by means of the triggered action (e.g. in the case of a switch). In other cases, a specific feedback signal might be required. This might also be the case if the action does not start immediately.

Parameter der SelektionParameter of the selection

  • ObjekteigenschaftenProperties of the object
    • Entfernung und Richtung des ZielobjektesDistance and direction of the target object
    • Größe des ZielobjektesSize of the target object
  • KontexteigenschaftenProperties of the context
    • Dichte der Objekte in der lokalen Umgebung des ZielsDensity of the objects in the vicinity of the target
    • Anzahl der ZielobjekteNumber of target objects
    • Sichtbarkeit des ZielobjektesVisibility of the target object

Eigenschaften der EingabegeräteProperties of input devices

  • FreiheitsgradeDegrees of freedom
  • Grad der Integration der FreiheitsgradeDegree of integration of the degrees of freedom
    • Wieviele Freiheitsgrade können gleichzeitig manipuliert werden? How many degrees of freedom can be manipulated simultaneously?
    • Typischerweise gilt: je besser die Integration, desto einfacher zu bedienen Rule of thumb: the better the integration, the easier to use is the interaction method

Typische Probleme bei der SelektionTypical problems of the selection

  • Zittern (durch Tracking-System oder natürliches Zittern) Jitter (based on the tracking system or natural jitter)
  • Unterscheidung zwischen Vordergrund und Hintergrund Distinction between foreground and background
  • mehrere Vordergrund-Objekte hintereinander multiple foreground objects behind each other
  • kleines Vordergrund-Objekt vor großem Vordergrund-Objekt smaller foreground object in front of larger foreground object
  • kein Objekt getroffen, aber nahe dran an mehreren no direct hit to a particular object, but close to many

Selektion: Vorstellung verschiedener Verfahren Selection: Presentation of Different Interaction Methods

Berühren / TouchingTouching

  • InformationenInformation
    • isomorphe Bewegung eines Berührpunktesisomorphic control of a point of contact
    • Indikation und Auswahl durch "Berührung" des Zielobjektes (technisch: Kollision des Berührpunktes mit dem Objekt) Indiciation and triggering by "touching" the target object (technically most often a collision of the contact point with the object geometry)
  • VorteileAdvantage
    • intuitivintuitive
    • hohe Präzisionhigh precision
  • NachteileDisadvantages
    • Midas-Touch: versehentliches Berühren, z.B. während der Navigationaccidental selections, e.g. during other tasks, such as navigation
    • nur im Nahbereich in Reichweite der Arme einsetzbarcan only be used in the closer vicinity of the user

Zeigen / PointingPointing

  • InformationenInformation
    • Auswahl von Objekten jenseits der ReichweiteSelection of objects beyond arms legnth
    • erfordert Akt der Indikation über eine Positions- und Richtungsangabe requires an act of indication by providing a position and an orientation
    • erfordert eine Auswahl, z.B. über Schalter oder Sprachbefehl requires a dedicated triggering action, e.g. by pressing a button or uttering a speech command
    • Vielzahl von Verfahren bereits entwickeltMany different approaches for pointing have been developed
  • Unterscheidungsmerkmale der VerfahrenDistinctive Features
    • Art der RichtungsangabeMeans of providing the orientation
    • Form des Auswahlvolumens (genereller als ein Zeigestrahl)Shape of the selection volume (more general than a pointing ray)
  • VorteileAdvantages
    • höhere Reichweite als berührungsbasierte Verfahren longer interaction range than touch-based approaches
    • geringere notwendige Bewegung less movement required than with touch-based approaches
  • NachteileDisadvantages
    • Operationsraum nur kreisförmig um den Nutzer Area of operation is circular around the user
    • Bei größeren Distanzen genauere visuelle Kontrolle notwendig (evtl. durch Feedback unterstützen) When selecting at larger distances an increased visual control is required (visual feedback could support that)
    • Spätere Translation erst einmal nur kreisförmig um den Nutzer und Rotation nur um zwei Achsen Later translation without further methods only possible in a circle around the user, rotation only possible around two axes

Put-that-there

  • InformationenInformation
    • Klassiker vonClassic method from 1979/80
    • entwickelt am MITdeveloped at MIT
    • Multimodale Interaktion mit Sprache und GestikMultimodal interaction with speech and gesture
    • Einhändige Zeigegesten auf eine Projektion (zugegeben: keine virtuelle Realität in unserem Sinn) one handed pointing gestures towards a projection screen (admittedly not a virtual reality in our strict interpretation)
    • Richtungsweisend für die weitere Entwicklung Pointing the way ahead for further developments
Put-That-There (Schmandt 1979, Bolt 1980)

Pointing / Ray-Casting

  • InformationenInformation
    • Benutzer zeigt auf Zielobjekt mit einem virtuellen Strahl User points at a target object with a virtual ray
    • Strahl gibt die Richtung an (Feedback) ray provides and highlights the direction (feedback)
    • zum Beispiel über ein Tracking der Handposition und -orientierung for example based on a tracking of hand position and orientation
    • Darstellung des Strahls entweder als kurzes Liniensegment, oder als unendlicher Strahl Visualization either as a short line segment or as an infinite line
  • Definition: $\vec{p}(d) = \vec{p_{pos}} + d \vec{p_{orient}}$
  • NachteileDisadvantages
    • Genauigkeit sinkt mit steigender Entfernung, auch durch Meßfehler und Unruhe in der Hand Accuracy decreases with increasing distance, also by measuring errors and natural jitter of the hand
Ray-Casting (0:54)

Zweihändiges Zeigen / Two-handed Pointing

  • InformationenInformation
    • Variante des einhändigen ZeigensVariant of the single handed pointing
    • erste Hand gibt den Ursprung anfirst hand sets the origin
    • zweite Hand bestimmt durch relative Position zur ersten Hand die Richtungrelativ position of the second hand defines the orientation
  • Definition: $\vec{p}(d) = \vec{p_{pos1}} + d (\vec{p_{pos2}} - \vec{p_{pos1}})$
  • VorteileAdvantages
    • Distanz der Hände kann zur Festlegung der Entfernung verwendet werden (aktives Ende des Zeigestrahls) Distance of the hands can be used to determine the distance (active end of the pointing ray)
    • Einbezug der Orientierung der Hände kann zur Krümmung des Strahls verwendet werden, um Hindernisse zu umgehen If the individual orientation of the hand is taken into account, it can be used to bend the ray around obstacles

Flashlight

  • InformationenInformation
    • Statt eines Strahls wird ein Kegel als Auswahlvolumen eingesetzt Instead of a ray a cone is used as the selection volume
    • Analogie: Taschenlampe / Analogy: Flashlight
  • VorteileAdvantages
    • Höhere Toleranz bei der Indikation der Zielobjekte Tolerance increases with distance to the target during indication
  • NachteileDisadvantage
    • Mit zunehmender Distanz steigt die Schwierigkeit Objekte in dichten Umgebungen auszuwählen With increasing distance it is more difficult to select objects in dense environments
    • Dann: bei mehreren Objekten das wählen, was näher an der Achse des Kegels liegt (Winkelmaß), bei gleichem Abstand zur Achse dasjenige wählen, was näher zum Zeigenden liegt As a heuristic: if there are multiple objects, chose the one closer to the axis of the cone (angular measure) or the one closer to the user

Aperture

  • InformationenInformation
    • Variante des Flashlight-VerfahrensVariant of flashlight
    • ermöglicht zusätzlich noch die dynamische Veränderung des Öffnungswinkels (aperture) in addition to flashlight it allows to dynamically adjust the opening angle (aperture)
    • weiterhin wird noch eine Greiforientierung am Ende des Zeigestrahls modelliert: über die Ausrichtung zweier kleiner Blöcke (stilisierte Hand) kann zwischen verschiedenen Objekten als Ziel an Hand der Hauptachsen unterschieden werden in addition to that the orientation of grasping at the end of the volume is modelled: by changing the orientation of two small block (stylized hands) the user can disambiguate between different objects according their main axes
  • VorteileAdvantages
    • Besserer Umgang mit dichten AuswahlbereichenBetter suited for dense contexts
    • Leichtere Unterscheidung zwischen sehr nahe gelegenen Objekten mit unterschiedlicher Hauptorientierung Better suited for closer objects with different axis orientation

Image-Plane TechnikenTechniques

  • InformationenInformation
    • 3D Auswahl über Selektion auf 2D Projektion (Image-Plane Ebene der Projektionstechnik) 3D selection based on selecton on 2D projection (image-plane of the projection technique)
    • Sticky-Finger-Technik: ähnlich zu Aperture, nur ersetzt hier das Auge die erste Hand Sticky-Finger-Technique: similar to aperture, but the eye replaces the first hand (defines the origin)
    • Head-Crusher-Technik: mit Daumen und Zeigefinger wird das Zielobjekt "umfasst" Head-Crusher-Technique: thumb and index finger embrace the target object
  • VorteileAdvantages
    • Simulation von direkter BerührungSimulation of direct touch
  • NachteileDisadvantages
    • wie bei den Pointing-Verfahrensimilar to the pointing techniques
Image-Plane TechnikenTechniques: Head-Crusher (4:31)

Virtuelle HandVirtual Hand

  • InformationenInformation
    • Darstellung einer virtuellen Hand an der exakten Position der realen Hand Visualization of a virtual hand at the exact position of the real hand
    • isomorphe Bewegungisomorphic movement
  • VorteileAdvantages
    • intuitivintuitive
  • NachteileDisadvantage
    • eingeschränkt auf Interaktion im Nahbereich (Reichweite) restricted to interactions with proximal objects

Go-Go Hand

  • InformationenInformation
    • Variante der Virtuellen HandVariant of the Virtual Hand
    • angelehnt an Inspector GadgetInspired by Inspector Gadget
  • VorteileAdvantages
    • im Nahbereich intuitive Virtuelle Handbehaves in the proximal area like the intuitive virtual hand
    • im äußeren Nahbereich Skalierung bis in den Fernbereich durch nicht-lineare Übertreibung in the outer proximal area the movements are scaled up to the distal area by non-linear exaggeration
    • Studien belegen, dass die Technik leicht verständlich istStudies show that the technique is easy to use
    • Nahtloser Übergang von Nah- zu FernselektionSmooth transition from proximal to distal selection
  • NachteileDisadvantages
    • immer noch eingeschränkter Zugriff auf entfernte Objekterestricted access to distant objects
    • Präzision im Fernbereich durch die Übertreibung geringprecision in the distance is low, based on the large exaggeration factor
    • im Fernbereich der Zeigetechnik unterlegenin the distal area inferior to standard pointing
Inspector Gadget Zeichentrick / Der Vergnügungspark, Ausfahrbare HandAmusement Park, Extendable Hand

World-in-Miniature

  • InformationenInformation
    • verkleinerte Darstellung der Welt, bzw. eines Ausschnitts smaller depiction of the world, respectively an excerpt
    • evtl. Manipulation der Darstellung möglich (Exploration) manipulation of the visualization could be possible (exploration)
    • Interaktion mit den Minaturen möglich it is also possible to let the world-in-miniature support some basic interactions
  • VorteileAdvantages
    • gute Erreichbarkeit des FernbereichsGood accessibility of distant areas
  • NachteileDisadvantages
    • nur für große Objekte geeignetOnly suitable for larger objects
    • begrenzte Größe der Weltrestricted size of the world
World-in-Miniature (3:20)

Blickbasierte SelektionGaze-based Selection

  • InformationenInformation
    • basiert auf Pointingbased on pointing
    • bestimmt die Zeigerichtung über die Blickrichtungorientation determined by the line of sight
    • Auswahl durch Verweilen (Dwelling), Blinzeln, Sprachkommando oder andere Schalter Selection is triggerd based on dwelling, blinking, speech commands or a button
  • VorteileAdvantages
    • schnellfast, what you see is what you select
    • genauprecise
    • Hände frei für andere Interaktionenhands are free for other interaction techniques
  • NachteileDisadvantages
    • gewöhnungsbedürftignot easy to get used to
    • erhöhter Geräteaufwandadditional devices required
Blickbasierte SelektionGaze-based Selection

NavigationNavigation

Typische NavigationsaufgabenTypical Navigation Tasks

  • Exploration
    • freies, ungerichtetes Erkundenfree, undirected investigation
    • wechselnde Aufmerksamkeitopen attention
    • ausgeglichenes Interessebalanced interests
  • SucheSearch
    • zielgerichtetes Interessedirected interests
    • selektive Aufmerksamkeitselective attention
  • ManövrierenManeuvering
    • lokale Positions- und Perspektivenänderungenlocal position and perspective changes

Parameter der NavigationParameters of Navigation

  • Distanzen (z.B. zum Ziel)Distances (e.g. to the target)
  • GeschwindigkeitSpeed
  • GenauigkeitPrecision
  • benötigte Freiheitsgrade (DoF)Required degrees of freedom
  • Sichtbarkeit des ZielsVisibility of the target
  • aktive oder passive BewegungActive or passive movement
  • physische oder virtuelle BewegungPhysical or virtual movement
  • Ego- oder exozentrische PerspektiveEgo or exocentric perspective

Psychologische FaktorenPsychological Factors

Die folgenden psychologischen Faktoren interagieren mit der Darstellung und der Interaktionsform.The following psychological factors interact with the presentation and the interaction metaphor.

  • Landmarken-Wissenknowledge of landmarks
    • charakteristische visuelle Merkmale der Umweltcharacteristic visual features of the environment
  • Prozedurales Wissenprocedural knowledge
    • Abläufe von Aktionen (erst Kreuzung links, dann zweimal rechts, ...)Sequence of actions (at the first intersection turn left, then twice right, ...)
  • Überblickswissensurvey knowledge
    • topologisches Wissen (z.B. Karte)topological knowledge (e.g. maps)

Eine für die Navigation gestaltete Virtuelle Welt unterstützt die Nutzer bei der Navigation, in dem sie z.B. Angebote an Landmarken bietet. Eine schlechte Interaktion auf der anderen Seite kann z.B. den Aufbau von mentalen Karten oder die Wahrnehmung von Landmarken behindern.A virtual world that has been designed for navigation supports the user in navigating, e.g., by offering landmarks. An ill-designed interaction, in contrast, might hinder the user in creating mental maps or perceiving landmarks.

Navigation: Interaktionstechniken vom Gehen bis zum LenkenInteraction Methods from Walking to Steering

Walking-VerfahrenMethods to support walking

  • isomorphe Bewegung (reale Bewegung $\to$ virtuelle Bewegung)isomorphic movement (real movement $\to$ virtual movement)
  • begrenzt durch physikalischen Raumlimited by physical space
  • begrenzt durch Technikreichweite (Kabel)limited by technology constraints (wires)

Auf der Stelle Laufen (Walking In Place)Walking In Place

  • InformationenInformation
    • Laufbewegungen auf der Stellewalking movements while maintaining a stationary position
  • VorteileAdvantages
    • kaum Lauffläche notwendigonly small space required
    • gut geeignet für HMDswell suited for HMDs
  • NachteileDisadvantages
    • nur begrenzte Geschwindigkeitonly reduced speed
    • In der CAVE: Unterscheidung zwischen Laufen auf der Stelle zur Bewegung des Viewpoints und dem Laufen in der CAVE zur Inspektion der näheren Umgebung notwendig.In the CAVE: a distinction is required between walking in place to move the viewpoint and walking within the CAVE to inspect the proximal environment.
Walking in Place (2:14), hier durch Wii-Balance Board von Nintendo gelöst. Damit lokale Lauffläche für die Verschiebung des Viewpoints. Die restliche Lauffläche ist für die lokale Inspektion frei.Walking in Place (2:14), here realized using Nintendo's Wii-Balance Board. The board is used for moving the viewpoint. The rest of the walking space is available for local inspection of the proximal environment.

Laufband/Linear TreadmillLinear Treadmill

  • InformationenInformation
    • Laufen auf einem Laufbandwalking on a treadmill
    • Laufband wird automatisch geführttreadmill is automatically tuned
    • entwickelt im CyberWalk Projektdeveloped in the CyberWalk Project
  • VorteileAdvantages
    • unendliche Lauffläche in einer Dimensioninfinite walking area in one dimension
  • NachteileDisadvantages
    • nur Laufen in einer Dimension möglichwalking only possible in one dimension
Lineares Laufband aus demLinear treadmill from the CyberWalk Projektproject

CyberCarpet

  • InformationenInformation
    • Laufen auf Fläche aus kleinen Kugelnwalking on a surface made out of small spheres
    • entwickelt imdeveloped in the CyberWalk Projektproject
  • VorteileAdvantages
    • unendliche Laufflächeinfinite walking area
  • NachteileDisadvantages
    • nur begrenzte Geschwindigkeitonly at reduced speed
    • kleine Schrittesmall steps
CyberCarpet aus demfrom the CyberWalk Projektproject

Omni-Directional Treadmill: CyberWalk

  • InformationenInformation
    • Laufbänder auf einem ebenfalls beweglichen Torustreadmills arranged on a movable torus
    • Nachfolger des CyberCarpets aus dem CyberWalk ProjektSuccessor of the CyberCarpet of the CyberWalk project
    • entwickelt imdeveloped in the CyberWalk Projektproject
  • VorteileAdvantages
    • unendliche Laufflächeinfinite walking area
  • NachteileDisadvantages
    • nur begrenzte Geschwindigkeitonly reduced speed
    • kleine Schrittesmall steps
CyberWalk in Tübingen aus dem CyberWalk at Tübingen, developed in the CyberWalk ProjektProject

Endkunden-Hardware zum Auf-der-Stelle-Laufen: Virtuix OmniConsumer Hardware for Walking-in-Place: Virtuix Omni

  • DetailsDetails
    • Lauffläche mit geringer Reibungwalking surface with low friction
  • VorteileAdvantages
    • unendliche Laufflächeinfinite walking area
    • unterstützt Laufen, Kriechen und Springen, sowie Drehungen um $360^\circ$supports walking, coaching and jumping, as well as rotations of $360^\circ$
  • NachteileDisadvantage
    • gewöhnungsbedürftige Bewegunguser needs to get used to the movement
Virtuix OmniVirtuix Omni

Endkunden-Hardware zum Auf-der-Stelle-Laufen: Cyberith VirtualizerConsumer Hardware for Walking-in-Place: Cyberith Virtualizer

  • DetailsDetails
    • Lauffläche mit geringer Reibungwalking surface with low friction
    • Funktioniert mit normalen Sockencompatible with standard socks
    • Blickrichtung getrennt von Laufrichtungview orientation different from walking direction
  • VorteileAdvantages
    • unendliche Laufflächeinfinite walking area
    • unterstützt Laufen, Kriechen und Springen, sowie Drehungen um $360^\circ$supports walking, coaching and jumping, as well as rotations of $360^\circ$
  • NachteileDisadvantage
    • gewöhnungsbedürftige Bewegunguser needs to get used to the movement
Cyberith VirtualizerCyberith Virtualizer

Redirected Walking

  • Information
    • Technik um die Grenzen des verfügbaren physikalischen Raumes besser auszunutzentechnology to compress virtual space within the physical spatial limits
    • Durch unterschwellige Richtungsänderungen wird die physikalische Laufrichtung von der wahrgenommenen Laufrichtung entkoppeltby subtle changes in orientation the physical direction of walking is decoupled from the perceived direction of walking
Razzaque, S.; Kohn, Z. & Whitton, M. C. (2001). Redirected Walking. In Proceedings of EUROGRAPHICS, pp. 289-294
Redirected Walking in einerin a CAVE, Arbeiten vonwork by Razzaque et al.

VirtuSphere

  • InformationenInformation
    • Laufen auf der Innenfläche einer Kugelwalking on the inner surface of a sphere
    • Einstieg durch Lukeentrance using a porthole
  • VorteileAdvantages
    • unendliche Laufflächeinfinite walking area
  • NachteileDisadvantages
    • nur begrenzte Geschwindigkeitonly reduced speed
    • kabellose Interaktionsgeräte notwendigwireless interaction devices required
  • VirtuSphere in Deutschlandin Germany: Cognitive NeuroInformatics in Bremen
VirtuSphere vonby VirtuSphere, Inc.

Flying

  • VorteileAdvantages
    • gut geeignet für Umgebungen ohne Bodenwell suited for simulations without a ground
    • häufig gewählte, bekannte Interaktionsmetapherwell known, often chosed interaction metaphor
  • NachteileDisadvantages
    • difficult to control
    • bei völlig freier Bewegung Gefahr von zunehmenden Orientierungsproblemen (wie z.B. beim Tauchen)if flying is not restricted, it may lead to orientation problems (e.g. similar to diving)
Ausschnitt aus dem Spiel Descent 2 vonExcerpt from the computer game Descent 2 by Parallax Software

Teleportation

  • VorteileAdvantages
    • sehr schnellvery fast
    • leicht zu erlerneneasy to learn
  • NachteileDisadvantages
    • unnatürlichunnatural
    • erzeugt schnell Orientierungsproblememay lead quickly to orientation problems
World-in-Miniature (3:18)

Steering-Verfahren

  • VorteileAdvantages
    • keine physikalische Begrenzungno physical restriction of the movement
  • NachteileDisadvantage
    • nicht-isomorphe Bewegungnon-isomporphic movement
Einfache Steuerkonsole eingebracht als Interaktionsgerät in eine CAVE.A simple control panel as interaction device for a CAVE.
FarmRacing - Projekt an der NHTV IGAD MediaLab Group

Gaze-directed Steering

  • InformationenInformation
    • Translation immer nur in der Blickrichtung oder entgegengesetzttranslation in the direction of gaze or in the opposite direction
    • Typische Implementierung bei Ego-Shooternthis is the typical implementation of navigation in ego-shooters.
  • VorteileAdvantages
    • einfach zu Implementiereneasy to implement
    • immer größtmöglicher Blickwinkel nach links und rechts beim Bewegenthe visual field has always a balanced extension to the left and right
  • NachteileDisadvantages
    • Umschauen während der Bewegung beeinflusst diese immerlooking around during the movement always affects the movement or requires a timely adjustment of movement control

Torso-directed Steering

  • InformationenInformation
    • Blickrichtung und Laufrichtung entkoppeltdecoupled direction of gaze and direction of movement
    • bekannt z.B. durch Panzersimulationenknown, e.g., from tank simulations
  • VorteileAdvantages
    • Umschauen möglichIt is possible to look around during navigation.
    • Leicht mit ungenaueren bzw. einfacheren Tracking-Methoden zu realisieren (z.B. Kinect)can be easily realised with less precise or more simple tracking mechanisms, such as the Kinect
  • NachteileDisadvantages
    • getrennte Steuerung notwendigcomplex steering control, at least 8 DoF (6 DoF for walking and 2 DoF for turning gaze direction)
Torso-/Body-directed Steering: PenguFly von der Virtual-Reality Group der RWTH Aachen.
Anette von Kapri, Tobias Rick, Steven Feiner, "Comparing Steering-Based Travel Techniques for Search Tasks in a CAVE", IEEE Virtual Reality Conference 2011.

Torso-directed Steering

  • InformationenInformation
    • Blickrichtung und Laufrichtung entkoppeltdecoupled direction of gaze and direction of movement
    • bekannt z.B. durch Panzersimulationenknown, e.g., from tank simulations
  • VorteileAdvantages
    • Umschauen möglichIt is possible to look around during navigation.
  • NachteileDisadvantages
    • getrennte Steuerung notwendigcomplex steering control, at least 8 DoF (6 DoF for walking and 2 DoF for turning gaze direction)
Lean-based Velocity (5:43)

Pointing-directed Steering

  • InformationenInformation
    • Laufen in Zeigerichtungwalking in the direction of pointing
  • VorteileAdvantage
    • Umschauen möglichIt is possible to look around
    • wenig anstrengend, auch im Sitzen nutzbarnon-exhausting, also usable in seated conditions
  • NachteileDisadvantages
    • getrennte Steuerung notwendigindependent steering control required

Halbautomatisches SteuernSemi-automatic Steering

  • Hauptbewegungsrichtung wird vom System vorgegebenMain direction of movement is determined by the system
    • Nutzer vollzieht lokale AusweichbewegungenUser only conducts local evasion movements
  • Hauptbewegungsrichtung wird vom Nutzer vorgegebenMain direction of movement is determined by the user
    • System vollzieht lokale Ausweichbewegungen bzw. verzeiht lokale UngenauigkeitenSystem automatically conducts local evasion movements or forgives local inaccuracies
Vorgegebene Steuerung im KlassikerSemi-automatic steering the the classic Rebel Assault vonby LucasArts.

Navigation durch Planenby Planning

ZielbestimmungChoosing the target

  • Anwender wählt Ziel ausUser chooses the target
  • System ermittelt Weg zum Ziel und bewegt den Anwender dorthinSystem determines a path to the target and moves the user along this path to the target

Pfad zeichnenPath Drawing

  • Anwender zeichnet den zurückzulegenden Pfad vorUser sets the path by drawing it
  • ... auf einem Requisit (z.B. Karte)on a prop (e.g. a map)
  • ... direkt in der Weltdirectly into the world
Path Drawing (AnfangBeginning)

Wegpunkte festlegenWaypoint following

  • Anwender wählt einzelne PunkteUser chooses single points
  • System ergänzt zu kompletten PfadenSystem completes to full path
Wegpunkte definieren in Unity3DWaypoint following in Unity3D

Navigation durchby Manipulation

Fixed-Object Manipulation

  • InformationenInformation
    • Anwender wählt ein ObjektUser chooses an object
    • Objekt wird zum AnkerObject is used as anchor
    • Anwender kann sich am Objekt durch die Welt "ziehen"User can drag herself through the world on that object
    • manchmal: Oberfläche der Welt als Objekt, z.B. im Spiel Black-and-Whitesometimes the world itself is used as anchor, for example in the game Black-and-White
Navigation über die Manipulation der Welt im KlassikerNavigation by manipulating the world in the classic Black&White von denby Lionhead Studios/Electronic Arts.

Grabbing-in-the-Air

  • InformationenInformation
    • Anwender greift in den "luftleeren" RaumUser grabs into the empty space (air)
    • Im Gegensatz zur letzten Variante ist die Navigation dadurch flexiblerIn contrast to the last example, this makes the navigation even more flexible
    • Beim Einsatz von beidhändiger Interaktion oder über andere Auswahlmechanismen ist auch eine gleichzeitige Skalierung möglich (siehe nächste Folie)When using bi-manual interaction or by using different interaction devices, it is also possible to do a scaling movement (see next slide), which leads to interesting possibilites
Grabbing in the Air (6:51)

SkalierenScaling

  • InformationenInformation
    • Anwender kann die Welt kleiner oder größer skalierenUser may scale the world smaller or larger than life
    • Wird die Welt kleiner skaliert, werden Wege verkürzt und Strecken schneller, aber evtl. ungenauer zurückgelegtIf the world is scaled smaller, then paths are shortened and distances are travelled more quickly, but less accurate
    • Wird die Welt größer skaliert, werden Wege verlängert und dafür eine präzisere Navigation möglichIf the world is scaled larger than life, paths are longer and allow for a more precise navigation
Grabbing in the Air mit Skalierenwith scaling (7:05)

ManipulationManipulation

Manipulation - Eigene DefinitionMy own definition

Manipulation ist eine Handlung, die dazu führt, dass sich während oder nach der Manipulation der Zustand von Objekten in Relation zur Umwelt ändert.

Manipulation is any interaction that changes the states of objects in the virtual world.

Definition nach Bowman und KollegenDefinition according to Bowman et al. (2005)

Als Manipulation bezeichnet man die Handhabung räumlich steifer Objekte, d.h. ohne Verformungen.

Manipulation is any kind of interaction of spatially rigid objects, i.e. without deformation.

BemerkungenComments

  • Die Effektivität einer Manipulationsinteraktionsform hängt von der Manipulationsaufgabe ab.The efficiency of a manipulation interaction metaphor depends on the task
    • Wie bei einem Werkzeug!This is similar to tools!
    • Daher Achtung: hat man erst einmal einen Hammer, könnten alle Sachen plötzlich wie Nägel aussehen...Attention: once you have created a nice hammer, everything will look like nails.
  • Für viele Manipulationsaufgaben wurden daher spezialisierte reale Interaktionsgeräte geschaffen.Consequently, for many manipulation tasks special interaction devices have been created.

Manipulation: Kanonisch oder AnwendungsspezifischCanonical or application specific?

  • Kanonische ManipulationsaufgabenCanonical manipulation tasks

    Idee: alle Manipulationsaufgaben lassen sich auf einen Kern an Basismanipulationsaufgaben zurückführenIdea: all manipulation tasks can be reduced to a core of basic manipulation tasks
    • PositionierungPositioning
    • Rotation
    • Skalierung (kann in der Regel auf Kombination der anderen Basismanipulationen abgebildet werden)Scaling (usually mapped to a combination of the other basis manipulation tasks)

Parameter der ManipulationParameters of manipulation tasks

  • PositionierungPositioning
    • Distanz und Richtung der AusgangspositionDistance and orientation at the source
    • Distanz und Richtung der ZielpositionDistance and orientation at the target
    • Abstand von Ausgangs- und ZielpositionDistance between source and target
    • Sichtbarkeit von Ausgangs- und ZielpositionVisibility of source and target
    • Sichtbarkeit auf dem TranslationswegVisibility on the path between source and target
    • Angestrebte Genauigkeit der Ausführung und der ZielerreichungRequired accuracy of the execution and the reaching of the target
  • Rotation
    • Distanz zum ObjektDistance to the target
    • AusgangsorientierungSource orientation
    • ZielorientierungTarget orientation
    • Umfang der RotationAmount of rotation
    • Angestrebte Genauigkeit der Ausführung und der ZielerreichungRequired accuracy of the execution and the reaching of the target

Manipulation: Kanonisch oder AnwendungsspezifischCanonical or application specific?

  • Anwendungsspezifische ManipulationsaufgabenApplication specific manipulation tasks
    • Problem: kanonischer Ansatz muss zwangsmäßig Abstrahieren und kann damit nicht die maximal mögliche Leistung bringencanonical approaches have to abstract away from particularities and thus cannot achieve the optimal performance
      • wäre z.B. bei Tele-Operationen in der medizinischen Anwendung sicher nicht gewolltthis would, e.g., not be wanted in tele-operations within medical applications

Eigenschaften der EingabegeräteProperties of the input devices

  • wie bei der Selektionthe same as for the selection
    • FreiheitsgradeDegrees of freedom
    • Grad der Integration der FreiheitsgradeLevel of integration of the degrees of freedom
      • Wieviele Freiheitsgrade können gleichzeitig manipuliert werden?How many degrees of freedom can be manipulated at the same time?
      • Typischerweise gilt: je besser die Integration, desto einfacher zu bedienenRule of thumb: the better the integration, the easier it is to use the interaction metaphor
  • isomorphe Messung der Änderungen (z.B. Bewegung) oder isometrische (z.B. Drücken eines Joysticks)isomorphic measurement of the changes (e.g. movement) or isometric (e.g. pressing a joystick)
    • isomorpher Ansatz besser für Postionsänderungen (Zhai und Milgram 1993)isomorphic approach better for changing positions (Zhai and Milgram 1993)
  • Form des GerätesShape of the device
    • Beispiel: Rotation eines Objektes mit Datenhandschuh vs. 3D Ball (im Präzisionsgriff)Example: rotation of an object with a data glove vs. 3D Ball (using precision grip)

Typische Probleme bei der ManipulationTypical Problems of Manipulation Tasks

  • Zittern (durch Tracking-System oder natürliches Zittern)Jittering (as a result of measurement errors or natural jittering)
  • Umschalten zwischen aktiver Manipulation und passiver, insbesondere bei physikalischer SimulationSwitch between active manipulation and passive, in particular when physical simulations are used

Manipulation: Vorstellung verschiedener Verfahren zur kanonischen ManipulationPresentation of specific approaches for canonical manipulations

Zeigen / PointingPointing

  • Selektionsprozess: siehe letzte VeranstaltungBasically a selection task, but with a smooth transition to a manipulation
  • Nach der Selektion ist das Zielobjekt an die Bewegung des Eingabegerätes gekoppeltAfter the selection is completed, the target object is linked to the movements of the input device
  • Operationsraum nur kreisförmigInteraction space spherical around the user
  • Spätere Translation erst einmal nur kreisförmig um den Nutzer und Rotation nur um eine AchseThe translation is only possible on a spherical trajectory around the user and a rotation only around one axis
  • Lösungsansatz: Angelrute (Distanz änderbar durch weiteres Interaktionsgerät)Solution: pole (distance can be changed, e.g. by using a second interaction device)

Virtuelle HandVirtual Hand

  • Selektionsprozess: siehe letzte VeranstaltungSelection: see last lecture
  • Nach der Selektion ist das Zielobjekt an die Bewegung des Eingabegerätes gekoppeltAfter the selection is completed, the movement of the target object is linked to the input device
  • Leichte Positionierung und RotationSimple changes of position and orientation

HOMER

  • hand-centered object manipulation extending raycasting
  • entwickelt von Bowman und Hodges 1997developed by Bowman and Hodges in 1997
  • Selektion mittels RaycastingSelection by Raycasting
  • Manipulation dann mit Virtueller Hand, die zum Selektionspunkt springtManipiulation by a virtual hand that is appearing at the point of selection
  • Reichweite der Manipulation wird durch lineare Skalierung vergrößertRange of this manipulation can be increased by linear scaling
    • linearer Faktor wird zum Zeitpunkt der Selektion als Quotient aus Abstand zum Objekt und Abstand vom Eingabegerät zum Benutzer bestimmtlinear factor is determined at the time of selection as quotient of the distance to the object and the distance of the input device from the user
    • Problem: durch die Zustandsabhängigkeit des Skalierungsfaktors ist diese Operation nicht invertierbarProblem: as the scaling factor depends on the state, this operation cannot be inverted

Scaled-World Grab

  • entwickelt von Mine et al. 1997developed by Mine et al. 1997
  • Selektion mittels Image Plane (andere aber auch möglich)Selection using Image Plane (but other methods are also possible)
  • Dann Skalierung der Welt, so dass das selektiertes Objekt nun am Finger anliegtAfter that: scaling of the world, so that the selected object is at the tip of the finger
  • Manipulation dann mit normaler Virtueller Hand geschehenManipulation then using Virtual Hand
  • Interessant: solange das Zentrum der Skalierung zwischen den beiden Augen des Betrachters liegt, stellt dieser die Skalierung häufig nicht fest, da sich die Welt visuell nicht verändert.Interesting aspect: as long as the center used for scaling lies between the eyes of the observer, she will not notice any visual difference.
  • Problematisch: auch hier können Objekte aus dem Nahbereich nur schwer weiter weg positioniert werden.Problem: objects in proximal space cannot easily be positioned further away

Voodoo Dolls

  • entwickelt vondeveloped by Pierce et al. 1999
  • Selektion über Image PlaneSelection using Image Plane
  • Idee: die Manipulation wird an virtuellen Kopien der selektierten Objekte durchgeführt, die in der Hand erscheinenIdea: the manipulation is done on a virtual copy of the selected objects; the virtual copy is visualized directly at the hand of the user
  • Hinzu kommt, dass mit beiden Händen gearbeitet wirdThis method uses both hands
  • Nicht-Dominante Hand wählt Objekt als Referenz, das Original wird jedoch nicht verändertThe non-dominant hand selects the object as reference, the original is not changed
  • Dominante Hand wählt zu manipulierendes Objekt, das in Relation zur Referenz verändert wirdDominant hand chooses the object to be manipulated in relation to the reference
Zur Manipulation wird eine Kopie (VoodooDoll) des selektierten Objekts erzeugt (Bild aus dem Paper von Pierce et al. 1999).For manipulation a copy (VoodooDoll) of the selected object is generated (picture taken from the paper by Pierce et al. 1999)

Beispiel: Ein-/Ausgabesystem für das Ertasten des ArmsExample: Input-/Output-System for feeling out an arm

  • entwickelt vondeveloped by Ullrich undand Kuhlen 2012
  • Unterstützung von fühlenden Untersuchungen in der Medizin (Palpation)Support for tactile feedback for medical examinations (Palpation)
  • Beispiel: Pulsmessung, Venen fühlenExample: taking the pulse, feeling the veins
  • Kombination aus modifizierter Hardware und entsprechender SimulationCombination of a modified hardware and a software simulation
Modifikation eines Phantom-Geräts zur Simulation von Puls-Messungen.Modification of a Phantom-device for simulating pulse measurements

ZusammenfassungSummary

Inhalte dieser VeranstaltungTopic of this lecture

  • BasisinteraktionenBasic Interactions
    • Navigation
    • SelektionSelection
    • Manipulation
  • Interaktionsfähigkeit bewertenEvaluating interaction capabilities