Formulários de tamanho fixo (non-resizable) em Kylix têm o comportamento um pouco diferente do que estamos acostumados no Delphi.

Não basta mudar a propriedade BorderStyle do formulário para fbsDialog. O formulário continua permitindo que o usuário altere o seu tamanho.

Uma solução simples é configurar a propriedade Constraints.

No Object Inspector, abra a propriedade Constraints. Atribua aos ítens MaxHeight e MinHeight o mesmo valor da propriedade Height; e aos ítens MaxWidth e MinWidth o mesmo valor da propriedade Width.

Fernando da Silva Santos