Olá, meu nome é Anderson Souza, espero poder lhe ajudar com sua questão.
Juliana, você consegue executar outros arquivos .JAR em seu computador que não seja esse do Optifine?
Qual a versão do Java está instalada em seu computador no momento? Saberia informar se a plataforma (32 ou 64bits) do Java instalado corresponde à plataforma do seu Windows 10?