pluginsに任意のjarファイルを追加できるということなら、plugins以下のjarが実装できている
であろうインターフェースや抽象クラスがmain.jarにありますよね？
その条件なら自分でURLClassLoaderを作って起動後に子クラスローダを使ってjarをリンク
する方法があります。詳しくは「階層化クラスローダー」をぐぐる。