直接、"smtp-relay.gmail.com"を指定して、SMTPリレーすることは出来ません。
使いたい場合は別途メールサーバーを用意し、そのメールサーバーのIPアドレスを許可した上で、そのメールサーバーから smtp-relay.gmail.com にリレーするように設定してください。
なお、"smtp-relay.gmail.com"をリレーさせるのではなく単に送信する場合に利用する場合は、
SMTPサーバー情報のサーバー名に"smtp-relay.gmail.com"を登録することで可能です。
この場合、認証を通さずにkMailerと連携を行うことは出来ません。