FileZillaでFTPSの接続ができない、またはエラーが表示される

共有レンタルサーバーのSTART、FLEX、SECUREプランでは、FileZillaでのFTPS接続ができません。
また、Plesk8を搭載した仮想専用プランにおいては、proftpdの設定を変更することにより「FFFTPでのFTPS接続」を可能にすることはできますが、FileZillaでは有効にできません。
(Plesk8系サーバにおいての、Proftpdのコンパイル仕様によるものとなります)

その他の共有レンタルサーバーではFileZillaでのFTPS接続は可能です。

FileZilla>サイトマネージャ>一般
・プロトコル(T) FTP – ファイル転送プロトコル
・暗号化(E)明示的なFTP over TLSが必要
で指定をしてください。

またPlesk11以降を搭載した仮想専用プランにおいても、proftpdの設定を変更することでFTPSを有効化し、上述のような指定で、FileZillaでのFTPS接続も可能にすることができます。

なお、FileZillaではFTPSを行った際に「不明な証明書」というダイアログが表示され、正規のSSL証明書がインストールされている環境でも次の内容が表示されます。

「サーバへの証明書は不明です。信用できるサーバか確認するために注意深く証明書を調べてください」

こちらについては公式フォーラムにて、次のように記されており仕様となります。

FileZilla doesn’t know any certificates by default.
>Is it true that FileZilla client will always display the prompt 
>“Unknown certificate”, even for trusted CA (e.g. “Go Daddy Class 2 Certification Authority”)?

Correct.

つまり認証局がどこかにかかわらず、FileZillaはすべての証明書をいったん未知のものとして扱います。

そのためでFTPS接続をした際に「不明な証明書」が表示されても、「今後もこの証明書を常に信用する」にチェックを入れて接続することで今後はダイアログが表示されなくなります。

FileZillaにおいての設定、およびproftpdの設定については以下の記事をご参照ください。
FTPを中心とした一般的なファイル転送の話 | EX-CLOUDエクスクラウド エンジニアブログ