feat(app-glasses): жесты RayNeo SDK (TempleAction) + отключение звуков трекпада
Перенос из pair-view (проверено на железе): RayNeoARSDK V0.1.3 (aar в libs/, MercurySDK.init в GlassesApp), MainActivity → BaseEventActivity, templeActionViewModel.state → команды (Click=пауза/плей, SlideForward/ Backward=±30с), dispatchTouchEvent→onTouchEvent + toggleSoundEffect(0..3, false) — системные щелчки трекпада отключены. Фиксы по ходу (железо): - applyMediaCommand(msg, onDone) — sendPlaybackPositionNow после seekTo (иначе телефон получал позицию ДО seek) - догонка seekTo через 1с на телефоне (первый seekTo в ogg неточен) - playbackPosition: isPlaying → playWhenReady — ложное playing=false при буферизации после seekTo паузило звук на телефоне (~5с «пропажи»); pauseIfPlaying тоже по playWhenReady Тесты: glasses 59+5, phone 71. Железо: клик пауза/плей ✓, свайпы ±30с ✓, звук при seek не пропадает ✓ (подтверждено пользователем)
This commit is contained in:
@@ -36,6 +36,13 @@ android {
|
||||
compose = true
|
||||
}
|
||||
|
||||
testOptions {
|
||||
// Unit-тесты строят TempleAction из aar, чьи конструкторы дёргают
|
||||
// SystemClock.uptimeMillis() — unmocked методы android.jar возвращают
|
||||
// значения по умолчанию вместо "not mocked".
|
||||
unitTests.isReturnDefaultValues = true
|
||||
}
|
||||
|
||||
}
|
||||
|
||||
dependencies {
|
||||
|
||||
@@ -1,6 +1,7 @@
|
||||
package pw.binom.viewmate.glasses
|
||||
|
||||
import android.app.Application
|
||||
import com.rayneo.arsdk.android.MercurySDK
|
||||
import java.io.File
|
||||
|
||||
/** Конфигурация очков: адрес WS-сервера телефона. Креды не нужны — очки просто экран. */
|
||||
@@ -29,6 +30,7 @@ class GlassesApp : Application() {
|
||||
override fun onCreate() {
|
||||
super.onCreate()
|
||||
instance = this
|
||||
MercurySDK.init(this)
|
||||
movieController = MovieController(applicationContext)
|
||||
movieController.eventLogger = { msg -> logToFile("mc: $msg") }
|
||||
downloadManager = GlassesDownloadManager(applicationContext) { msg -> hostConnection.sendToHost(msg) }
|
||||
|
||||
@@ -9,12 +9,10 @@ import android.os.Bundle
|
||||
import android.os.Handler
|
||||
import android.os.Looper
|
||||
import android.view.Display
|
||||
import android.view.KeyEvent
|
||||
import android.view.MotionEvent
|
||||
import java.io.File
|
||||
import androidx.activity.ComponentActivity
|
||||
import androidx.activity.compose.setContent
|
||||
import androidx.core.view.WindowCompat
|
||||
import androidx.core.view.WindowInsetsCompat
|
||||
import androidx.core.view.WindowInsetsControllerCompat
|
||||
import androidx.compose.foundation.layout.Arrangement
|
||||
import androidx.compose.foundation.layout.Column
|
||||
import androidx.compose.foundation.layout.fillMaxSize
|
||||
@@ -29,9 +27,19 @@ import androidx.compose.runtime.collectAsState
|
||||
import androidx.compose.runtime.getValue
|
||||
import androidx.compose.ui.Modifier
|
||||
import androidx.compose.ui.unit.dp
|
||||
import androidx.core.view.WindowCompat
|
||||
import androidx.core.view.WindowInsetsCompat
|
||||
import androidx.core.view.WindowInsetsControllerCompat
|
||||
import androidx.lifecycle.Lifecycle
|
||||
import androidx.lifecycle.lifecycleScope
|
||||
import androidx.lifecycle.repeatOnLifecycle
|
||||
import com.rayneo.arsdk.android.ui.activity.BaseEventActivity
|
||||
import kotlinx.coroutines.launch
|
||||
import pw.binom.viewmate.glasses.gestures.actionName
|
||||
import pw.binom.viewmate.glasses.gestures.templeActionToCommand
|
||||
import pw.binom.viewmate.glasses.ui.GlassesMovieScreen
|
||||
|
||||
class MainActivity : ComponentActivity() {
|
||||
class MainActivity : BaseEventActivity() {
|
||||
private var resumeAfterScreenOn = false
|
||||
|
||||
private val screenReceiver = object : BroadcastReceiver() {
|
||||
@@ -62,6 +70,8 @@ class MainActivity : ComponentActivity() {
|
||||
|
||||
override fun onCreate(savedInstanceState: Bundle?) {
|
||||
super.onCreate(savedInstanceState)
|
||||
collectTempleActions()
|
||||
disableTrackpadSounds()
|
||||
WindowCompat.setDecorFitsSystemWindows(window, false)
|
||||
setContent {
|
||||
MaterialTheme {
|
||||
@@ -110,6 +120,47 @@ class MainActivity : ComponentActivity() {
|
||||
}, null)
|
||||
}
|
||||
|
||||
/** Жесты трекпада → команды просмотра (Click=пауза/плей, свайпы=±30с). */
|
||||
private fun collectTempleActions() {
|
||||
lifecycleScope.launch {
|
||||
repeatOnLifecycle(Lifecycle.State.RESUMED) {
|
||||
templeActionViewModel.state.collect { action ->
|
||||
val cmd = templeActionToCommand(action)
|
||||
if (cmd != null) {
|
||||
log("gesture", "жест: ${actionName(action)} → ${cmd.command}")
|
||||
GlassesApp.instance.movieController.applyMediaCommand(cmd) {
|
||||
GlassesApp.instance.hostConnection.sendPlaybackPositionNow()
|
||||
}
|
||||
} else {
|
||||
log("gesture", "жест (резерв): ${actionName(action)}")
|
||||
}
|
||||
}
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
/**
|
||||
* Звуки касания трекпада играет сам SDK (GestureDetectorWithSound, SoundPool:
|
||||
* mercury_system_single_tap/fling/double_click/long_press) — это и есть
|
||||
* системные щелчки очков. Отключаем все четыре типа (индексы 0..3),
|
||||
* чтобы клики/свайпы не щёлкали. Распознавание жестов не затрагивается.
|
||||
*/
|
||||
private fun disableTrackpadSounds() {
|
||||
for (soundType in 0..3) toggleSoundEffect(soundType, false)
|
||||
log("ui", "звуки трекпада SDK отключены (types 0..3)")
|
||||
}
|
||||
|
||||
/**
|
||||
* Жесты SDK детектятся ТОЛЬКО в onTouchEvent (единственный канал в aar:
|
||||
* BaseTouchActivity.onTouchEvent → TouchDispatcher.onMotionEvent). Поэтому
|
||||
* событие НЕ съедаем — прогоняем через onTouchEvent: жест распознаётся,
|
||||
* а в систему/UI событие не уходит (на очках нет таповых элементов).
|
||||
* dispatchKeyEvent глушит клавиши трекпада целиком.
|
||||
*/
|
||||
override fun dispatchTouchEvent(event: MotionEvent): Boolean = onTouchEvent(event)
|
||||
|
||||
override fun dispatchKeyEvent(event: KeyEvent): Boolean = true
|
||||
|
||||
override fun onPause() {
|
||||
super.onPause()
|
||||
log("ui", "onPause")
|
||||
|
||||
@@ -11,6 +11,7 @@ import kotlinx.coroutines.flow.MutableStateFlow
|
||||
import kotlinx.coroutines.flow.StateFlow
|
||||
import kotlinx.coroutines.flow.asStateFlow
|
||||
import pw.binom.viewmate.core.MediaCommand
|
||||
import pw.binom.viewmate.core.protocol.MediaCommandMsg
|
||||
import pw.binom.viewmate.core.protocol.PlayVideo
|
||||
import java.io.File
|
||||
|
||||
@@ -172,10 +173,15 @@ class MovieController(private val context: Context) {
|
||||
}
|
||||
}
|
||||
|
||||
fun applyMediaCommand(command: MediaCommand, seekMs: Long) {
|
||||
/** Команда от жеста очков: MediaCommandMsg из протокола (как из телефона). */
|
||||
fun applyMediaCommand(msg: MediaCommandMsg, onDone: (() -> Unit)? = null) =
|
||||
applyMediaCommand(msg.command, msg.seekMs, onDone)
|
||||
|
||||
fun applyMediaCommand(command: MediaCommand, seekMs: Long, onDone: (() -> Unit)? = null) {
|
||||
mainHandler.post {
|
||||
val player = _player ?: run {
|
||||
log("glasses", "MediaCommand $command проигнорирован: плеер не активен")
|
||||
onDone?.invoke()
|
||||
return@post
|
||||
}
|
||||
when (command) {
|
||||
@@ -212,6 +218,7 @@ class MovieController(private val context: Context) {
|
||||
|
||||
MediaCommand.CLOSE -> close()
|
||||
}
|
||||
onDone?.invoke()
|
||||
}
|
||||
}
|
||||
|
||||
@@ -235,13 +242,13 @@ class MovieController(private val context: Context) {
|
||||
/** Снимок для PlaybackPosition (позиция, playing, itemId, audioIndex). Только с главного потока. */
|
||||
internal fun playbackPosition(): PlaybackSnapshot {
|
||||
val player = _player ?: return PlaybackSnapshot(0L, false, contentId.itemId, contentId.audioIndex)
|
||||
return PlaybackSnapshot(player.currentPosition, player.isPlaying, contentId.itemId, contentId.audioIndex)
|
||||
return PlaybackSnapshot(player.currentPosition, player.playWhenReady, contentId.itemId, contentId.audioIndex)
|
||||
}
|
||||
|
||||
/** Пауза при потере связи, если плеер играл. Только с главного потока. Возвращает, играл ли. */
|
||||
fun pauseIfPlaying(): Boolean {
|
||||
val player = _player ?: return false
|
||||
val wasPlaying = player.isPlaying
|
||||
val wasPlaying = player.playWhenReady
|
||||
if (wasPlaying) player.pause()
|
||||
return wasPlaying
|
||||
}
|
||||
|
||||
@@ -0,0 +1,33 @@
|
||||
package pw.binom.viewmate.glasses.gestures
|
||||
|
||||
import com.rayneo.arsdk.android.touch.TempleAction
|
||||
import pw.binom.viewmate.core.MediaCommand
|
||||
import pw.binom.viewmate.core.protocol.MediaCommandMsg
|
||||
|
||||
/**
|
||||
* Маппинг жестов SDK на команды просмотра (как пульт телефона).
|
||||
* DoubleClick/LongClick/TripleClick/MoveUp/ActionUp/Idle — резерв (null).
|
||||
*/
|
||||
fun templeActionToCommand(
|
||||
action: TempleAction,
|
||||
seekStepMs: Long = 30_000,
|
||||
): MediaCommandMsg? = when (action) {
|
||||
is TempleAction.Click -> MediaCommandMsg(MediaCommand.TOGGLE)
|
||||
is TempleAction.SlideForward -> MediaCommandMsg(MediaCommand.SEEK_FORWARD, seekStepMs)
|
||||
is TempleAction.SlideBackward -> MediaCommandMsg(MediaCommand.SEEK_BACKWARD, seekStepMs)
|
||||
else -> null
|
||||
}
|
||||
|
||||
/** Человекочитаемое имя жеста для логов (SDK actionName() — только для MotionEvent). */
|
||||
fun actionName(action: TempleAction): String = when (action) {
|
||||
is TempleAction.Click -> "Click"
|
||||
is TempleAction.DoubleClick -> "DoubleClick"
|
||||
is TempleAction.LongClick -> "LongClick"
|
||||
is TempleAction.TripleClick -> "TripleClick"
|
||||
is TempleAction.SlideForward -> "SlideForward"
|
||||
is TempleAction.SlideBackward -> "SlideBackward"
|
||||
is TempleAction.SlideContinuous -> "SlideContinuous"
|
||||
is TempleAction.MoveUp -> "MoveUp"
|
||||
is TempleAction.ActionUp -> "ActionUp"
|
||||
TempleAction.Idle -> "Idle"
|
||||
}
|
||||
@@ -0,0 +1,67 @@
|
||||
package pw.binom.viewmate.glasses.gestures
|
||||
|
||||
import android.view.MotionEvent
|
||||
import com.rayneo.arsdk.android.touch.FlingArgs
|
||||
import com.rayneo.arsdk.android.touch.TempleAction
|
||||
import kotlin.test.Test
|
||||
import kotlin.test.assertEquals
|
||||
import kotlin.test.assertNull
|
||||
import pw.binom.viewmate.core.MediaCommand
|
||||
|
||||
/**
|
||||
* Маппинг жестов SDK → команды просмотра (чистая логика, без Android).
|
||||
* FlingArgs требует не-null MotionEvent; в JVM-тесте реальный экземпляр
|
||||
* MotionEvent получаем через sun.misc.Unsafe.allocateInstance (без вызова
|
||||
* конструктора и методов фреймворка — в unit-тестах они "not mocked").
|
||||
* Поля args в templeActionToCommand не читаются — важен только тип жеста.
|
||||
*/
|
||||
class GestureCommandsTest {
|
||||
|
||||
private val flingArgs = FlingArgs(fakeMotionEvent(), fakeMotionEvent(), 0f, 0f)
|
||||
|
||||
@Test
|
||||
fun clickMapsToToggle() {
|
||||
val cmd = templeActionToCommand(TempleAction.Click())
|
||||
assertEquals(MediaCommand.TOGGLE, cmd?.command)
|
||||
assertEquals(0L, cmd?.seekMs)
|
||||
}
|
||||
|
||||
@Test
|
||||
fun slideForwardMapsToSeekForward() {
|
||||
val cmd = templeActionToCommand(TempleAction.SlideForward(flingArgs))
|
||||
assertEquals(MediaCommand.SEEK_FORWARD, cmd?.command)
|
||||
assertEquals(30_000L, cmd?.seekMs)
|
||||
}
|
||||
|
||||
@Test
|
||||
fun slideBackwardMapsToSeekBackward() {
|
||||
val cmd = templeActionToCommand(TempleAction.SlideBackward(flingArgs))
|
||||
assertEquals(MediaCommand.SEEK_BACKWARD, cmd?.command)
|
||||
assertEquals(30_000L, cmd?.seekMs)
|
||||
}
|
||||
|
||||
@Test
|
||||
fun customSeekStepIsUsed() {
|
||||
val cmd = templeActionToCommand(TempleAction.SlideForward(flingArgs), seekStepMs = 60_000)
|
||||
assertEquals(60_000L, cmd?.seekMs)
|
||||
}
|
||||
|
||||
@Test
|
||||
fun reservedGesturesMapToNull() {
|
||||
assertNull(templeActionToCommand(TempleAction.DoubleClick()))
|
||||
assertNull(templeActionToCommand(TempleAction.LongClick()))
|
||||
assertNull(templeActionToCommand(TempleAction.TripleClick()))
|
||||
assertNull(templeActionToCommand(TempleAction.MoveUp(false)))
|
||||
assertNull(templeActionToCommand(TempleAction.ActionUp()))
|
||||
assertNull(templeActionToCommand(TempleAction.Idle))
|
||||
}
|
||||
|
||||
private fun fakeMotionEvent(): MotionEvent {
|
||||
val unsafeClass = Class.forName("sun.misc.Unsafe")
|
||||
val theUnsafe = unsafeClass.getDeclaredField("theUnsafe")
|
||||
theUnsafe.isAccessible = true
|
||||
val unsafe = theUnsafe.get(null)
|
||||
val allocate = unsafeClass.getMethod("allocateInstance", Class::class.java)
|
||||
return allocate.invoke(unsafe, MotionEvent::class.java) as MotionEvent
|
||||
}
|
||||
}
|
||||
@@ -115,6 +115,11 @@ class AudioSyncPlayer(private val context: Context) {
|
||||
private var player: ExoPlayer? = null
|
||||
private var ticker: Job? = null
|
||||
|
||||
/** Позиция очков из последнего sync (для догонки после неточного seekTo). */
|
||||
private var lastVideoPositionMs = 0L
|
||||
/** IsPlaying очков из последнего sync. */
|
||||
private var lastVideoPlaying = false
|
||||
|
||||
private val _positionMs = MutableStateFlow(0L)
|
||||
/** Текущая позиция аудио (для индикатора «🔊 звук: N мс»). Обновляется каждые 500 мс. */
|
||||
val positionMs: StateFlow<Long> = _positionMs.asStateFlow()
|
||||
@@ -151,9 +156,24 @@ class AudioSyncPlayer(private val context: Context) {
|
||||
fun sync(positionMs: Long, isPlaying: Boolean) {
|
||||
main.post {
|
||||
val p = player ?: return@post
|
||||
lastVideoPositionMs = positionMs
|
||||
lastVideoPlaying = isPlaying
|
||||
val audioPos = p.currentPosition
|
||||
val decision = decideSync(audioPos, positionMs, p.isPlaying, isPlaying)
|
||||
decision.seekToMs?.let { p.seekTo(it) }
|
||||
decision.seekToMs?.let {
|
||||
p.seekTo(it)
|
||||
lastVideoPositionMs = it
|
||||
// Догонка через 1с: первый seekTo в ogg приблизительный (недолёт ~2с),
|
||||
// второй seekTo точен — делаем его сразу, не дожидаясь следующего sync (5с).
|
||||
main.postDelayed({
|
||||
val pp = player ?: return@postDelayed
|
||||
val target = lastVideoPositionMs + 1_000 // очки ушли вперёд за секунду
|
||||
if (abs(pp.currentPosition - target) > 500) {
|
||||
pp.seekTo(target)
|
||||
log("audio sync:", "догонка seekTo → $target (было ${pp.currentPosition})")
|
||||
}
|
||||
}, 1_000)
|
||||
}
|
||||
decision.playing?.let { if (it) p.play() else p.pause() }
|
||||
log("audio sync:", "video=$positionMs мс audio=$audioPos мс diff=${abs(audioPos - positionMs)}")
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user