Guest User!

You are not Sophos Staff.

This discussion has been locked.
You can no longer post new replies to this discussion. If you have a question you can start a new discussion

UTM Performance Crashes with A/V Scanning, but CPU only at 12%

I'm having an issue with Sophos UTM 9.307 that when it performs A/V scanning on large file (300 MB) downloads, my entire network comes to a screeching halt, with several machines dropping network connection or freezing up.  BTW, I'm using the dual A/V scan.

My UTM installation is on a home-built machine using an Intel i7-4790k CPU @ 4.0 GHz, hyperthreaded with 8 cores, 8 GB RAM and a 60 GB SSD, Z97 chipset.  NIC's are a single Intel i-350, 4 port (only 2 used - one WAN, one LAN) and an Intel NIC built onto the motherboard.  I wouldn't think I'd be potentially hardware limited with this setup.

Per posts here on the Sophos BBS, I've disabled Intel's "Enhanced SpeedStep" and "Turbo Boost" options in BIOS, along with the enhanced "C states".  I've also performed BarryG's recommendation at the console:

echo "performance" >/sys/devices/system/cpu/cpuN/cpufreq/scaling_governor

for each logical CPU 0-7.

The maximum CPU usage I've ever recorded in Sophos UTM during normal operation is around 12% when performing a scan on a single 300 MB download.  Note that this 12% corresponds to about 100% loading of one logical CPU core.  I was able to get around 17% CPU usage once when I tried the same download and scan operations on 2 machines (real machines, not VM's) simultaneously, but that completely locked up the network and I only had a few other machines running.  When not performing A/V scanning, my CPU hovers around 1-2%, since we don't have that much network traffic right now.

It seems like the UTM isn't taking full advantage of all the CPU horsepower that is available.  I could understand one of the connections / scans being tied to a logical CPU (with SNORT, etc) and locking it up, but it seems like the UTM would transfer other connections to other logical CPU's and not lock up the entire network.

BTW, the dual A/V scan of the 300 MB file took a couple of minutes.  Does this sound reasonable given the hardware?

It's almost as if the UTM is only using one of the available 8 logical cores to do almost all of the work in my system.

I'm aware that hyperthreading could be an issue due to the way the OS assigns the logical cores, such that logical core 0 and 1 are essentially the same physical core.  I could see this as being a problem when core 0 is at 100% load and the OS tries to give work to the next logical core (1 in this case), which is really already at 100%, but I thought that the underlying OS was "smart" enough to realize this.

Should I disable hyperthreading?  If so, will this corrupt my current Sophos UTM installation that expects to see 8 CPU's?

Does anyone have any other suggestions on setting, etc that would enable the full potential of this hardware setup or is this "normal" / to be expected?  

Thanks in advance,

- Ben


This thread was automatically locked due to age.
Parents
  • William,

    Thanks again for the insights and advice.  You've given me a roadmap of things to test and I appreciate it.  I will give them a try.  I agree that there's some hardware glitch or something unique to my system that's causing the other CPU cores to not fully engage (coupled with the overspecc'd system).  I would have guessed that it had something to do with being a Haswell CPU, since they're still relatively new and I've seen unique issues with Haswell i5's and i7 with other software packages.  However, you mentioned that you're currently running Haswell CPU's, so maybe Hyper-v is the difference.

    I've been looking for an excuse to learn Hyper-V, so here's my chance!  I've always been a little cautious of running a firewall/UTM in a VM, from a security standpoint, due to my experience level with properly setting up a VM to avoid opening up a security "hole" that I'm unaware of.  I know that it can be done and is run commonly as such.  However, being able to run Sophos UTM on bare metal was one of the primary drawing points for me.  

    WAN download speed is spec'd at 80 Mbps, but I actually get closer to 85 Mbps on speed tests.

    I'm a little surprised about your comment on the Intel NIC's.  I was under the impression that Sophos was most compatible with Intel NIC's (understanding that there are exceptions to the rule), especially their "server" NIC's, like the i350 I'm using.  Is this not the case?  

    Would you recommend enabling or disabling certain CPU features in BIOS, such as Intel Vt-d, execute disable bit, etc or does it not really matter?

    Thanks,

    - Ben
  • William,

    Thanks again for the insights and advice.  You've given me a roadmap of things to test and I appreciate it.  I will give them a try.  I agree that there's some hardware glitch or something unique to my system that's causing the other CPU cores to not fully engage (coupled with the overspecc'd system).  I would have guessed that it had something to do with being a Haswell CPU, since they're still relatively new and I've seen unique issues with Haswell i5's and i7 with other software packages.  However, you mentioned that you're currently running Haswell CPU's, so maybe Hyper-v is the difference.

    I've been looking for an excuse to learn Hyper-V, so here's my chance!  I've always been a little cautious of running a firewall/UTM in a VM, from a security standpoint, due to my experience level with properly setting up a VM to avoid opening up a security "hole" that I'm unaware of.  I know that it can be done and is run commonly as such.  However, being able to run Sophos UTM on bare metal was one of the primary drawing points for me.  

    WAN download speed is spec'd at 80 Mbps, but I actually get closer to 85 Mbps on speed tests.

    I'm a little surprised about your comment on the Intel NIC's.  I was under the impression that Sophos was most compatible with Intel NIC's (understanding that there are exceptions to the rule), especially their "server" NIC's, like the i350 I'm using.  Is this not the case?  

    Would you recommend enabling or disabling certain CPU features in BIOS, such as Intel Vt-d, execute disable bit, etc?

    Thanks,

    - Ben

    no if you want to run any kind of hypervisor leave everything on..and i would enable HT as well..[[:)]]  don't run more than 4 vpus though.  The extra "threads" will be useful for hyper-v self- management..[[:)]]
Reply
  • William,

    Thanks again for the insights and advice.  You've given me a roadmap of things to test and I appreciate it.  I will give them a try.  I agree that there's some hardware glitch or something unique to my system that's causing the other CPU cores to not fully engage (coupled with the overspecc'd system).  I would have guessed that it had something to do with being a Haswell CPU, since they're still relatively new and I've seen unique issues with Haswell i5's and i7 with other software packages.  However, you mentioned that you're currently running Haswell CPU's, so maybe Hyper-v is the difference.

    I've been looking for an excuse to learn Hyper-V, so here's my chance!  I've always been a little cautious of running a firewall/UTM in a VM, from a security standpoint, due to my experience level with properly setting up a VM to avoid opening up a security "hole" that I'm unaware of.  I know that it can be done and is run commonly as such.  However, being able to run Sophos UTM on bare metal was one of the primary drawing points for me.  

    WAN download speed is spec'd at 80 Mbps, but I actually get closer to 85 Mbps on speed tests.

    I'm a little surprised about your comment on the Intel NIC's.  I was under the impression that Sophos was most compatible with Intel NIC's (understanding that there are exceptions to the rule), especially their "server" NIC's, like the i350 I'm using.  Is this not the case?  

    Would you recommend enabling or disabling certain CPU features in BIOS, such as Intel Vt-d, execute disable bit, etc?

    Thanks,

    - Ben

    no if you want to run any kind of hypervisor leave everything on..and i would enable HT as well..[[:)]]  don't run more than 4 vpus though.  The extra "threads" will be useful for hyper-v self- management..[[:)]]
Children
No Data