"Se um trabalhador quiser fazer bem o seu trabalho, ele deve primeiro afiar suas ferramentas." - Confúcio, "Os Analectos de Confúcio. Lu Linggong"
Primeira página > Programação > Processe um arquivo CSV grande com processamento paralelo #eg39

Processe um arquivo CSV grande com processamento paralelo #eg39

Publicado em 2024-11-02
Navegar:512

Um arquivo csv armazena uma grande quantidade de dados de pedidos.

Process a large csv file with parallel processing #eg39

Use Java para processar este arquivo: encontre pedidos cujos valores estejam entre 3.000 e 5.000, agrupe-os por clientes, some os valores dos pedidos e conte os pedidos.

Process a large csv file with parallel processing #eg39
Escreva a seguinte instrução SPL:

=arquivo("d:/OrdersBig.csv").cursor@mtc(;8).select(Valor>=3000 && Valor A função

cursor() analisa um arquivo grande que não cabe na memória; por padrão, ele executa o cálculo serial. A opção @m permite a recuperação de dados multithread; 8 é o número de threads paralelos; A opção @t permite importar a primeira linha como títulos de coluna; e a opção @c permite usar vírgula como separador.

Leia Como chamar um script SPL em Java para descobrir como integrar SPL em um aplicativo Java.

Este é um dos problemas do StackOverflow. Você pode clicar nele para ver que a solução convencional é bastante complicada, mas a abordagem SPL é realmente simples e eficiente.

Endereço de código aberto SPL

Declaração de lançamento Este artigo é reproduzido em: https://dev.to/esproc_spl/process-a-large-csv-file-with-parallel-processing-eg38-40mo?1 Se houver alguma infração, entre em contato com [email protected] para excluí-lo.
Tutorial mais recente Mais>

Isenção de responsabilidade: Todos os recursos fornecidos são parcialmente provenientes da Internet. Se houver qualquer violação de seus direitos autorais ou outros direitos e interesses, explique os motivos detalhados e forneça prova de direitos autorais ou direitos e interesses e envie-a para o e-mail: [email protected]. Nós cuidaremos disso para você o mais rápido possível.

Copyright© 2022 湘ICP备2022001581号-3