Расстояние между камнями будет функцией от t и требуется найти её минимум, т.е. взять производную и приравнять к нулю.
Теорема Пифагора даст корень, но от него можно избавиться, если искать минимум не расстояния между камнями, а его квадрата (подумай: почему оба будут минимальными одновременно)