Verfication осуществляется с помощью открытого ключа.

Основно сво O = т ^ д (мод N),

где о подписи, м является сообщением и d является закрытым ключом
Поскольку RSA имеет несколько уязвимостей, сообщение получает хэшируется первым.

Для того, чтобы проверить подпись вы calulate о ^ е = т (мод N)
где е является ключом общественности бывшего используемого секретного ключа.

Если хэши совпадают сообщение не был изменен durring транспорта.

Это работает, потому что изд = 1 (по модулю фита (N))
а е и N снова является частью открытого ключа
и d является закрытым ключом



Если вы хотите более подробную информацию, читать RFC 3447, его объяснена для RSA, но принцип остается тем же

Ссылка: http://tools.ietf.org/html/rfc3447#page-27



Edit: фи (х) является функцией eulers фита ( http://en.wikipedia.org/wiki/Euler%27s_totient_function )