JISにエンコードする簡単な方法が
ありましたので、報告です。

# do-applescriptはprocess-coding-systemを見るべきだとおもう
# ので、これをやらなきゃいけないってのはバグだと思うのですが
# いかがでしょうか?

--------

(defun jamming-lookup (word)
(do-applescript
(encode-coding-string
(concat
"tell application \"Jamming\" \r activate \r search \""
(read-from-minibuffer "Jamming: " word)
"\" \r end tell") 'sjis-mac)))
--------

で、これでも、「表」などの文字は通りません。
sjisの「表」は2byte目がbackslashなのが原因
だと思われます。これも、do-applescript以下の
バグではないかと思ってますが...。